Yeni Saldırı Türü: AI Ajanlarında Veri Enjeksiyonu (ADI)
Araştırmacılar, AI ajanlarını güvenilir veri gibi görünen sahte metadata ile kandıran yeni bir saldırı türü keşfetti. Claude, Codex ve Gemini CLI gibi ajanlarda kritik açıklar bulundu.
Yeni bir araştırma, dolaylı prompt enjeksiyonunun (IPI) daha az bilinen ama en az o kadar tehlikeli bir alt türünü ortaya koyuyor: Ajan Veri Enjeksiyonu (ADI). Şimdiye kadar güvenlik çalışmaları çoğunlukla saldırganın veriyi doğrudan bir komut gibi sunduğu 'talimat enjeksiyonu' üzerine yoğunlaşmıştı ve buna karşı çeşitli savunma mekanizmaları geliştirilmişti. ADI ise farklı bir yol izliyor: saldırgan, veriyi komut olarak değil, kaynak kimliği, veri kökeni veya araç çağrısı formatı gibi güvenilir sayılan meta veri olarak gizliyor. Ajan bu sahte 'güvenilir' bilgiyi sorgulamadan işleyip istenmeyen eylemler gerçekleştiriyor.
Araştırmacılar bu zafiyeti gerçek dünya ajanlarında test etmiş ve ciddi sonuçlar bulmuş. Web ajanlarında (Claude in Chrome, Antigravity, Nanobrowser) rastgele tıklama saldırıları; kodlama ajanlarında (Claude Code, Codex, Gemini CLI) ise uzaktan kod çalıştırma ve tedarik zinciri saldırıları mümkün. Testler hem bağımsız büyük dil modellerinde hem de tam ajan ortamlarında ADI'nın etkili olduğunu gösteriyor.
Bu bulgunun mühendisler için önemi açık: mevcut IPI savunmaları esasen 'talimat' formatındaki enjeksiyonlara odaklandığından, meta veri seviyesindeki manipülasyonları yakalayamıyor. Araştırma, sorunun kökeninde ajanların güvenilir veri ile güvenilmeyen veriyi hiçbir şekilde izole etmemesi yattığını vurguluyor — bu da AI ajan mimarilerinde temel bir güvenlik ilkesinin eksik olduğu anlamına geliyor.