agent-gate: Yapay zeka ajanlarına sınırsız yetki vermeyin
agent-gate, AI ajanlarının önerdiği eylemleri deterministik kod kontrollerinden geçirip tek kullanımlık token ile yetkilendiren, MIT lisanslı bağımsız Python katmanı.
Çoğu AI ajan mimarisinde model bir eylemi önerir ve doğrudan çalıştırılır — arada hiçbir denetim katmanı yoktur. Bu durum, zehirli bir dosya, kötü niyetli bir web sayfası veya hatalı bir çıkarım adımı ajanı dosya silmeye, ödeme yapmaya veya üretim ortamını bozmaya yönlendirdiğinde büyük risk oluşturur. agent-gate, bağımlılıksız ve MIT lisanslı bir Python katmanı olarak bu boşluğu kapatmayı hedefliyor.
Mimarinin temel fikri basit: model karar verebilir ama yetkiyi yalnızca deterministik kod kontrollerinden geçen istekler için üretilen tek kullanımlık, isteğe özgü hash'e bağlı bir token verir. Tehlikeli hedefler seçilmeden önce reddedilir, gözlemlenen veri (web sayfası, dosya içeriği) asla komut olarak kabul edilmez, ve her adım hash zincirli, değiştirilemez bir denetim kaydına yazılır. Silme, ödeme veya dağıtım gibi yüksek riskli eylemler için insan onayı zorunlu tutuluyor.
Projenin demo'su iki senaryo gösteriyor: geçerli bir düzeltme isteği başarıyla token alıp sandbox üzerinde yedekleme-yazma-geri alma döngüsünden geçerken, sahte bir 'sistem onayı' içeren prompt injection saldırısı, gateway'e hiç ulaşmadan reddedici katmanda anında elenir. Geliştirici, projenin bir 'akıl yürütme atılımı' olmadığını, sadece production'da AI ajanlarını güvenli tutan sıkıcı ama kritik bir katman olduğunu vurguluyor.