AI Ajanlarında İnsan Onayı Anını Doğru Tasarlamak

Uzun süre çalışan AI ajanlarının bir karar sınırına dayanıp insandan girdi istediği an, sıradan bir sohbet balonu gibi tasarlanamaz; bu, sistemin sorumluluğu geçici olarak insana devrettiği kritik bir eşiktir. Kullanıcı sekmeyi kapatmış, telefonuna bildirim gelmiş veya saatler sonra geri dönmüş olabilir; arayüzün bu senaryoların hepsinde işi, gerekçeyi, kanıtı ve sonucu eksiksiz aktarabilmesi gerekir. Yazı, her kesintinin karar, gerekçe, kanıt, sonuç, geçerlilik süresi ve geri dönüş kuralı olmak üzere altı alan içermesi gerektiğini savunuyor; zayıf bir soru ("hangi dal?") ile güçlü bir soru (etkiyi, riski ve son kullanma koşulunu açıklayan) arasındaki fark somut örneklerle gösteriliyor.

Metin ayrıca netleştirici sorular, onaylar, teyitler ve kimlik bilgisi talepleri gibi farklı risk seviyelerindeki etkileşimlerin aynı arayüz kalıbıyla ele alınmaması gerektiğini, bildirimlerin ise hassas veriyi doğrudan taşımak yerine kilitli ekranda sadece önceliklendirmeye yetecek kadar bilgi vermesi gerektiğini vurguluyor. Beklerken sistemin hâlâ kaynak tükettiği, kısmi ilerlemenin kaydedildiği ve kararın ne zaman geçersiz sayılacağı kullanıcıya açıkça gösterilmeli; yanıt verildikten sonra da kimin, ne zaman, hangi yetkiyle karar verdiği kaydedilmeli ve görev aynı denetim noktasından, tekrar aynı soruyu sormadan devam etmelidir.

Yazar, bu tasarım desenini test etmek için beş senaryo öneriyor: masaüstünde anlık görme, üç saat sonra mobilden açma, yetkisiz bir kullanıcının bağlantıyı takip etmesi, bekleme sırasında ortamın değişmesi ve devam ettikten sonra görevin başarısız olması. Öneriler MonkeyCode projesindeki belgelenmiş görev yönetimi altyapısına dayanıyor ancak bunun mevcut bir uygulama iddiası değil, bir tasarım önerisi olduğu açıkça belirtiliyor; asenkron insan-ajan iş birliği kuran her ekip için doğrudan uygulanabilir bir kontrol listesi sunuyor.