APC: Çoklu Ajan LLM Sistemlerinde Yetkilendirme Açığını Kapatıyor
APC, çoklu ajanlı LLM sistemlerinde yetki devrini izleyerek prompt injection ve yasak eylem kombinasyonlarını engelleyen yeni bir güvenlik çerçevesi.
LLM tabanlı ajanlar, oturum başında sabitlenen statik yetkilerle çalışır ve her istek önceki eylemler dikkate alınmadan bağımsız değerlendirilir. Bu durum, ajanın verilen görevle çelişen eylemler yapmasına, tek başına izinli eylemleri yasak bir sonuçta birleştirmesine veya bir alt ajana sınırsız yetki devretmesine yol açar. Prompt injection saldırısı ancak ajan zaten bu yetkiye sahipse tehlikelidir; dolayısıyla sorun modelin kendisinden çok yetkilendirme mimarisidir.
Önerilen Agentic Principal Chain (APC), yetkinin bir asıldan diğerine devredilme zincirini izler; her isteği birikmiş oturum durumuna göre altı yetkilendirme kontrolünden geçirir ve devredilen kapsam ile bütçeleri sınırlayarak taşır. "Kompozisyon kapanışı" yöntemiyle, tek başına izinli eylemlerin yasak kombinasyonlar oluşturmasını önler ve kararı model dışında uygular. Yazarlar APC için "blast radius monotonluğu" ve belirli koşullar altında "kompozisyon sağlamlığı" özelliklerini matematiksel olarak kanıtlıyor.
InjecAgent, AgentDojo ve ASB kıyaslamalarından toplam 3.154 örnek üzerinde yapılan, ele geçirilmiş model senaryosunu da içeren testlerde AgentDojo'daki veri sızdırma oranı dört alanda %75-100'den %0'a düştü; InjecAgent'taki 544 veri hırsızlığı vakasının tamamı engellendi. Yıkıcı eylemler %38,6'dan %4,0'e, manipülasyon %90,5'ten %12,1'e geriledi. Yetkilendirme gecikmesi p99'da yalnızca 0,24 ms iken, korumalı senaryolarda görev başarımı %8,6-13,9 puan düştü.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz