» Etiket
prompt-injection
6 yayınAPC: Çoklu Ajan LLM Sistemlerinde Yetkilendirme Açığını Kapatıyor
APC, çoklu ajanlı LLM sistemlerinde yetki devrini izleyerek prompt injection ve yasak eylem kombinasyonlarını engelleyen yeni bir güvenlik çerçevesi.
Agent Control Plane: LLM Önerir, Yetkilendirme Asla Modelde Değil
ACP mimarisi, AI ajanlarında LLM'in önerdiği eylemleri prompt injection'a kapalı bir politika motorunda yetkilendiriyor; kanıtlanabilir ve test edilebilir.
RovoBlast: Tek Tıkla Atlassian AI Asistanını Veri Sızıntısına Zorlayan Açık
Varonis, Atlassian Rovo'daki RovoBlast açığını inceliyor: tek tıkla tetiklenen prompt enjeksiyonu kurumsal veri sızıntısına yol açabiliyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comGoogle'ın ADK deposunda ajanlar arası ilk saldırı yöntemi bulundu
Google ADK Python deposunda bulunan açık, bir AI ajanının başka bir yetkili ajanı ele geçirmesine imkan tanıdı; ilk ajan-ajan saldırısı olarak tanımlandı.
Grok sohbeti, enjekte edilmiş talimatları kabul eden bir saldırıya uğradı
xAI'nin Grok sohbeti, Adversa AI tarafından keşfedilen yeni bir prompt enjeksiyonu saldırısına maruz kaldı.
Prompt Injection: Mühendislikteki Tehditler ve Çözümler
Prompt injection, dil modellerinin güvenliğini tehdit eden bir yapısal hatadır. Geliştiricilerin dikkat etmesi gereken çözümler sunulmaktadır.