Bir ajana karar yetkisi vermeden önce yedi soru

Gartner, Haziran 2025’te ajan tabanlı yapay zekâ projelerinin %40’tan fazlasının 2027 sonuna kadar iptal edileceğini öngördü. Gerekçe olarak artan maliyetleri, belirsiz iş değerini ve yetersiz risk kontrollerini saydı. Listede model kalitesi yok. Ajanlar çoğunlukla yapamadıkları için değil, kimse ne yaptıklarından ve kaça mal olduklarından emin olmadığı için duruyor.

Müşteri organizasyonlarında değişiklik yönetimi, izleme ve olay müdahalesi çerçeveleri kurduk. Bu işin özünde basit bir gerçek yatıyor: bir sistemi canlıya almak, ona yetki vermektir. RPA botları için bu yetki dardı; bot ne yapacağı yazılmış adımları izlerdi. Ajan ise bir sonraki adımı kendisi seçiyor. Bu yüzden canlı onayından önce sorulacak sorular da değişiyor. Benim listem yedi soru.

1. Karar mı veriyor, öneri mi?

Aynı ajan, iki farklı rolde bambaşka bir risk taşır. Bir tedarik anomalisini sınıflandırıp bir insanın önüne koyan ajan öneride bulunur. Ödeme blokajını kendisi kaldıran ajan ise karar verir. Tasarım dokümanında her eylem için bu ayrımı tek tek yazın. “Ajan şunu yapar” cümlesi yetmez; “ajan şunu önerir, şu kişi onaylar” ya da “ajan şunu yapar, şu durumda durur” demek gerekir.

2. Yanlış karar geri alınabilir mi, kaça patlar?

Eylemleri iki eksende sıralamayı öneririm: geri alınabilir mi, yanlış olursa maliyeti ne? Geri alınabilir ve ucuz eylemler ajana bırakılabilir. Geri alınamayan ya da pahalı olanlara bir insan onayı kapısı konmalı. Bu kapıyı ajanın yetersizliğinin itirafı gibi görmemek gerekiyor; yaptığınız şey yetkiyi bilinçli olarak bölmek. Kapının nerede durduğu da zamanla değişebilir. Kayıtlar ajanın belirli bir eylem türünde güvenilir olduğunu gösterdikçe kapıyı geri çekmek mümkün olur.

3. Hangi araçlara, hangi kimlikle erişiyor?

Ajanın erişebildiği her araç, onun yapabileceği her şeyin listesidir. İnsan kullanıcının yetkileriyle çalışan bir ajan, o kullanıcının yapabileceği her hatayı yapabilir. Ayrı bir hizmet kimliği, yalnızca gereken araçlar ve gereken en dar yetki şart. Model Context Protocol’ün Temmuz 2026 sürümü bu konuda işinizi kolaylaştırıyor: yöntem ve araç adları HTTP başlıklarında taşındığı için bir ağ geçidi, istek gövdesini açmadan hangi aracın çağrıldığını görüp kural uygulayabiliyor.

4. “Doğru”yu ajanı yazmadan önce tanımladınız mı?

Kabul kriteri olmayan bir ajan projesi, bitmeyen bir demodur. Ajanı yazmaya başlamadan önce gerçek örneklerden küçük bir değerlendirme seti oluşturun: hangi girdi için hangi çıktı doğru, hangisi kabul edilebilir, hangisi hatalı? Bu set hem kabul testinin hem de her istem değişikliğinden sonraki gerileme testinin temeli olur. Dışarıdan yaptırılan projelerde bu set teslim edilecekler listesinde yer almalı.

5. Her çalıştırmanın izi var mı?

Bir ajan yanlış bir şey yaptığında sorulacak ilk soru “neden?” olur. Cevap verebilmek için her çalıştırmada girdinin, çağrılan araçların, aracın döndüğü sonucun, modelin çıktısının ve maliyetin kaydı gerekir. Bu kayıtlar olay müdahalesinin ham maddesi. Olmadan yapılan her inceleme tahmindir. İzi tutmanın bir faydası daha var: hangi görevin kaça mal olduğunu gösterir, bütçe konuşmasını da somutlaştırır.

6. Kişisel veriye dokunuyor mu?

KVKK, 12 Mart 2026’da etken yapay zekâ sistemleri için bir rehber yayımladı. Rehberi özetleyen hukuk notlarına göre kurumlardan beklenenler şunlar: etken yapay zekâ kullanımını kapsayan bir veri yönetişimi çerçevesi ve risk değerlendirmesi, veri işleme aktörleri arasında sorumlulukların netleşmesi, insan gözetiminin tasarım aşamasından itibaren kurgulanması, tasarımdan ve varsayılan olarak mahremiyet, bir de çalışanların bilgilendirilmesi. Bu listedeki her madde yukarıdaki sorulardan birine bağlanıyor. Ajanınız kişisel veri işliyorsa bu bağlantıyı yazılı hâle getirin. Denetimde ilk istenecek belge o olur.

AB’ye hizmet veriyorsanız bir madde daha var. AB Yapay Zekâ Yasası’nın şeffaflık yükümlülükleri yeni tüzükle ertelenmedi. İnsanlarla doğrudan yazışan bir ajan, karşısındakine bir yapay zekâ sistemiyle konuştuğunu söylemek zorunda.

7. Kapattığınızda ne oluyor?

En az sorulan soru bu. Ajan hata verdiğinde, maliyeti beklenmedik şekilde arttığında ya da modelin sağlayıcısı bir değişiklik yaptığında işi kim devralıyor? Benim beklentim, her ajan için yazılı bir geri dönüş yolu olması: aynı işi kural tabanlı bir robot yapabiliyorsa o robot hazırda beklemeli, yapamıyorsa iş bir insan kuyruğuna düşmeli. Kapatma düğmesinin kimde olduğu ve kapatma kararının hangi göstergeyle verileceği de yazılı olmalı.

Cevap “bilmiyoruz” ise

Bu yedi sorudan birine verilen cevap “bilmiyoruz” ise, canlıda bir ajan değil, canlıda bir pilot çalıştırıyorsunuz demektir. Bunda kötü bir şey yok; yeter ki herkes bunun bir pilot olduğunu bilsin. Sorunlar, bir pilotun ürün gibi bütçelendiği ve ürün gibi denetlendiği gün başlıyor.