Agentic AI Ürünlerde Doğru Kapsam Nasıl Belirlenir

McKinsey'e göre agentic AI, generative AI kullanım alanlarında yılda 2,6 ila 4,4 trilyon dolarlık bir değer potansiyeli taşıyor. Buna karşın yine McKinsey'in araştırmasına göre kurumların yalnızca yüzde biri yapay zeka benimseme sürecini "olgun" olarak değerlendiriyor. Deneyim hızla artıyor; kapsam ve yetki disiplini aynı hızda artmıyor.

Aradaki fark icrada saklı. Erken dönem yapay zeka sistemleri esas olarak öngörü üretiyordu; kararı ve eylemi insan alıyordu. Bugün agentic sistemler görevleri doğrudan iş süreçleri içinde, giderek daha az insan onayıyla yürütüyor. Bu da agentic AI ürünlerinde "kapsam" sorusunu ikiye ayırıyor: ajan hangi işi yapacak, ve ajana hangi yetki ve erişim verilecek?

Kapsam Sadece "Hangi Özellik" Sorusu Değil

Geleneksel yazılım ürünlerinde kapsam tartışması genellikle özellik listesiyle sınırlı kalır: Bu sürümde hangi ekranlar, hangi işlevler olacak? Agentic AI ürünlerinde bu soru tek başına yeterli değil, çünkü ajan yalnızca bir çıktı üretmiyor; sistemler içinde doğrudan eylem gerçekleştiriyor: bir API'yi çağırıyor, bir kaydı güncelliyor, bir işlemi başlatıyor.

Bu yüzden agentic bir üründe kapsam iki eksende tanımlanmalı: ajanın yapabileceği işler (özellik kapsamı) ve ajanın erişebileceği araçlar, veriler ve sistemler (yetki kapsamı). Yetki kapsamı baştan net tanımlanmazsa, kontrol sonradan, genellikle bir sorun yaşandıktan sonra, tepkisel biçimde kurulmak zorunda kalır.

Kapsamı Belirsiz Bırakmanın Riskleri

Ajanlar çıktı üretmekle kalmıyor, canlı sistemler içinde eylem gerçekleştiriyor. Yetki arttıkça, olası etki de büyüyor. Kapsam ve yetki sınırları baştan net tanımlanmadığında sıkça karşılaşılan riskler:

• Yürütme kontrolünün kaybı. Ajan bir hedef tanımlandıktan sonra çok adımlı bir iş akışını kendi başına sürdürebilir; kapsam sınırı net değilse eylemler öngörülenin ötesine taşabilir.
• Yetkisiz araç/API çağrısı. Ajan çalışma zamanında hangi aracı kullanacağına kendisi karar verdiğinde, yanlış yapılandırılmış entegrasyonlar planlanmamış erişim yolları açabilir.
• Yetki genişlemesi. Ajan, göreviyle orantısız geniş yetkiye sahip bir servis kimliğiyle çalışabilir; çoklu ajan ortamlarında birinin erişimi diğerinin kapsamını da etkileyebilir.
• Sorumluluk belirsizliği. Model sağlayıcı, platform operatörü ve kuruluş arasında sorumluluk net tanımlanmazsa, bir şey ters gittiğinde kimin karar vereceği belirsiz kalır.
• Zamanla kayma (drift). Girdiler, araçlar ve iş süreçleri değiştikçe ajanın davranışı, başlangıçta tasarlanan sınırlardan sessizce uzaklaşabilir.

Doğru Kapsamı Belirlemenin Pratik Çerçevesi

1. Kapsamı ve yetkiyi baştan tanımlayın. Ajanın amacı ve sınırları yazılı olmalı: hangi işi yapacak, hangi veri ve araçlara erişecek, hangi eylemler açıkça kapsam dışında kalacak.

2. Kimlik ve erişim sınırlarını haritalayın. Ajan bir servis kimliğiyle çalışır. En az yetki ilkesiyle, yalnızca görevi için gereken erişimi verin; yetki devrini periyodik olarak gözden geçirin.

3. Devreye almadan önce etki değerlendirmesi yapın. Ajanın özerklik seviyesi ve sistem erişimi arttıkça, değerlendirmenin derinliği ve gerekli onay süreci de artmalı.

4. Çalışma zamanı kontrolleri kurun. Araç çağrılarını sınırlayan, girdi/çıktıları politikaya göre doğrulayan ve eşik aşıldığında insana yönlendiren mekanizmalar yalnızca geliştirme aşamasında değil, ajan çalışırken de devrede olmalı.

5. Loglama ve izlenebilirlik ekleyin. Her eylem ve her araç çağrısı kayıt altına alınmalı; bu hem denetim hem sürekli iyileştirme için gerekli.

6. İnsan onay eşiklerini ve müdahale planını netleştirin. Hangi kararlar otonom ilerleyebilir, hangileri doğrudan onay gerektirir? Beklenmeyen bir davranış durumunda yürütmeyi kimin durdurabileceği önceden tanımlanmalı.

7. Sürekli değerlendirme ve kayma takibi kurun. Kapsam belirleme tek seferlik bir karar değil; ajan olgunlaştıkça yetkiler periyodik olarak gözden geçirilmeli.

Kapsamı Gerçek Bir Senaryoda Görmek

Bir kurumun ERP sistemi içinde çalışan bir satınalma ajanı düşünün. Görevi basit: onaylı tedarikçiler için, tanımlı bütçe sınırları içinde rutin satınalma taleplerini inceleyip satınalma emri oluşturmak.

Yetki devredilmiştir ama sınırlıdır. Ajan bütçe kurallarını değiştiremez, yeni tedarikçi ekleyemez, yalnızca kendisine tanımlanan kapsamda çalışır. Bu sınır, kısıtlı yetkili bir servis kimliğiyle teknik olarak da uygulanır: ajan satınalma kayıtlarına erişebilir ve satınalma emri oluşturabilir, ama finansal kontrolleri veya onay hiyerarşisini değiştiremez.

Her eylem loglanır; bir satınalma emri oluşturulduğunda işlem, ajanın kimliğine ve zaman damgasına kadar izlenebilir. Tanımlı bir tutarın üzerindeki işlemler otomatik olarak insan onayına düşer; anormallikler otomatik yürütme yerine eskalasyona yönlendirilir.

Zamanla harcama örüntüleri izlenir, tedarikçi seçimleri gözden geçirilir; davranış beklenenden sapmaya başlarsa yetkiler daraltılabilir veya yürütme durdurulabilir. Ajan görevi yapar, insan sınırı tanımlar; kapsam her adımda sınırlı kalır.

Özetle

• Agentic AI'da kapsam iki boyutlu: hangi iş yapılacak ve hangi yetki verilecek
• McKinsey'e göre potansiyel büyük (yılda 2,6-4,4 trilyon dolar) ama olgunluk düşük (kurumların yalnızca yüzde biri)
• Kapsam belirsizse kontrol kaybı, yetkisiz erişim, sorumluluk belirsizliği ve zamanla kayma riskleri büyür
• En az yetki ilkesi, çalışma zamanı kontrolleri ve loglama kapsamı somutlaştırır
• Kapsam belirleme tek seferlik değil, ajan olgunlaştıkça sürekli gözden geçirilmesi gereken bir disiplin

Kaynak: Bu yazı, Palo Alto Networks'ün "A Complete Guide to Agentic AI Governance" başlıklı rehberindeki veri, risk kategorileri ve uygulama çerçevesinden yararlanılarak hazırlanmıştır.

Agentic AI ürününüzün kapsamını ve yetki sınırlarını birlikte belirlemek isterseniz, Projenizi Konuşalım /