APPA: LLM Ajanlarında Veri Sızıntısını Sıfıra Yaklaştıran Politika Cebiri
APPA çerçevesi, LLM ajanlarında prompt injection saldırılarını %0-7'ye düşürürken kullanışlılığı da büyük ölçüde koruyor.
Araştırmacılar, karışık gizlilik seviyesindeki verilerle çalışan otonom LLM ajanlarını prompt injection saldırılarına karşı korumak için APPA (Agentic Permissions Policy Algebra) adlı yeni bir bilgi akışı kontrolü (IFC) çerçevesi sundu. Geleneksel taint tracking yöntemleri, doğrulanmamış veri okunduğunda ajanın tüm bağlamını kalıcı olarak kirleterek kullanışlılığı ciddi şekilde düşürüyordu.
APPA bu sorunu, veri edinilmeden önce etiket düşüşlerini ve eksik ön koşulları öngörerek somut çözüm planları (Authorize, Accept) üreten 'prospective acquisition enforcement' yaklaşımıyla çözüyor. Doğrulanmamış veriyi incelemek için ana bağlamdan ayrı bir alt yörünge (child trajectory) oluşturuluyor; bu sayede etiket kirlenmesi yerelde tutuluyor ve güvenilir bir arındırıcı, sınırlı bir türev sonucu değişmeyen ana bağlama geri döndürebiliyor. İki-monoid modeliyle yönetilen sistem için ebeveyn etiketinin korunması ve birleştirme sınırlaması formel olarak kanıtlandı.
Dört farklı model üzerinde çok turlu araç zincirleme benchmark'ında test edilen APPA, saldırı başarı oranını %31-50 aralığından %0-7'ye düşürdü ve dört modelden üçünde, salt taint tracking'in feda ettiği kullanışlılığın önemli bir kısmını geri kazandırdı. Bu sonuçlar, mühendislerin ajan güvenliği ile pratik faydayı bir arada sağlayabileceğini gösteriyor.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz