» Etiket
prompt-injection
7 yayınAPC: Çoklu Ajan LLM Sistemlerinde Yetkilendirme Açığını Kapatıyor
APC, çoklu ajanlı LLM sistemlerinde yetki devrini izleyerek prompt injection ve yasak eylem kombinasyonlarını engelleyen yeni bir güvenlik çerçevesi.
Agent Control Plane: LLM Önerir, Yetkilendirme Asla Modelde Değil
ACP mimarisi, AI ajanlarında LLM'in önerdiği eylemleri prompt injection'a kapalı bir politika motorunda yetkilendiriyor; kanıtlanabilir ve test edilebilir.
Prompt Injection Artık Uzaktan Kod Çalıştırma Riski Taşıyor
Yapay zeka ajanlarında prompt injection artık RCE riski taşıyor. Microsoft Semantic Kernel açıkları üzerinden savunma mimarisi ve tespit stratejileri.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comRovoBlast: Tek Tıkla Atlassian AI Asistanını Veri Sızıntısına Zorlayan Açık
Varonis, Atlassian Rovo'daki RovoBlast açığını inceliyor: tek tıkla tetiklenen prompt enjeksiyonu kurumsal veri sızıntısına yol açabiliyor.
Google'ın ADK deposunda ajanlar arası ilk saldırı yöntemi bulundu
Google ADK Python deposunda bulunan açık, bir AI ajanının başka bir yetkili ajanı ele geçirmesine imkan tanıdı; ilk ajan-ajan saldırısı olarak tanımlandı.
Grok sohbeti, enjekte edilmiş talimatları kabul eden bir saldırıya uğradı
xAI'nin Grok sohbeti, Adversa AI tarafından keşfedilen yeni bir prompt enjeksiyonu saldırısına maruz kaldı.
Prompt Injection: Mühendislikteki Tehditler ve Çözümler
Prompt injection, dil modellerinin güvenliğini tehdit eden bir yapısal hatadır. Geliştiricilerin dikkat etmesi gereken çözümler sunulmaktadır.