MemGhost: Tek E-postayla AI Ajanlarının Hafızasını Kalıcı Olarak Zehirleme Saldırısı
MemGhost saldırısı, tek e-postayla AI ajanlarının kalıcı hafızasını zehirliyor; %87,5 başarı oranıyla yetkilendirme tasarımını sorguluyor.
MemGhost adlı yeni saldırı tekniği, tek bir e-postaya gizlenen talimatla AI ajanlarını kendi uzun süreli hafızalarını yeniden yazmaya ikna ediyor; örneğin bir para transfer limitini yükseltmek gibi. Bu sahte bilgi, ajanın gelecekteki tüm etkileşimlerinde 'gerçek' olarak kabul ediliyor. Saldırı, giriş filtrelerini veya yetkilendirme sınırlarını kırmıyor; ajanın kendi meşru hafıza yazma aracını olduğu gibi kullanıyor. Öncü modellere karşı %87,5 başarı oranı, mevcut savunma stratejilerinin -daha iyi prompt filtreleme- bu sorunu çözemeyeceğini gösteriyor.
Gerçek çözüm sıkıcı ama gerekli: kalıcı duruma yazma işlemlerini finansal işlem API'leri gibi ele almak, kaynak güven seviyesini eylem güven seviyesinden ayırmak ve hassas alanlar için insan onayı zorunlu kılmak. Güvenlik ekipleri için 'girdi filtrelememiz var' artık bir kontrol değil, sadece bir pazarlama cümlesi. Soru şu: hafıza bütünlüğü için geri alma/denetim mekanizması bir zorunluluk mu olacak, yoksa ilk gerçek vaka manşetlere düşene kadar mı bekleyeceğiz?