» Etiket
prompt-injection
35 yayınRovoBlast: Tek Tıkla Atlassian AI Asistanını Veri Sızıntısına Zorlayan Açık
Varonis, Atlassian Rovo'daki RovoBlast açığını inceliyor: tek tıkla tetiklenen prompt enjeksiyonu kurumsal veri sızıntısına yol açabiliyor.
Google'ın ADK deposunda ajanlar arası ilk saldırı yöntemi bulundu
Google ADK Python deposunda bulunan açık, bir AI ajanının başka bir yetkili ajanı ele geçirmesine imkan tanıdı; ilk ajan-ajan saldırısı olarak tanımlandı.
Araştırma: LLM'lerin rol tanıma açığı saldırılara karşı temelden kırılgan
ICML araştırması, LLM'lerin rolleri etiket değil metin üslubuyla tanıdığını, bunun da temelden çözülemez bir güvenlik açığı yarattığını gösteriyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comÖlümcül Üçleme: MCP Sunucularınızda Sessizce Bekleyen Veri Sızıntısı Riski
MCP sunucularında sıfır günlük açık gerektirmeyen 'ölümcül üçleme' saldırısı ve mimari savunma yöntemi mühendisler için açıklandı.
MemGhost: Tek E-postayla AI Ajanlarının Hafızasını Kalıcı Olarak Zehirleme Saldırısı
MemGhost saldırısı, tek e-postayla AI ajanlarının kalıcı hafızasını zehirliyor; %87,5 başarı oranıyla yetkilendirme tasarımını sorguluyor.
GitHub'ın AI Ajanı Genel Issue Üzerinden Özel Depoları Sızdırıyor
Noma Labs, GitHub'ın AI ajanının gizli talimatlarla kandırılarak özel repo içeriğini herkese açık yorumda sızdırdığını gösterdi.
Biyoenformatikten prompt injection savunmasına: Smith-Waterman hilesi
Regex ve sınıflandırıcıların kaçırdığı parafraze prompt injection saldırılarını, DNA dizi hizalama algoritması Smith-Waterman ile yakalayan açık kaynak teknik F1 skorunu 34 puan artırdı.
Grok sohbeti, enjekte edilmiş talimatları kabul eden bir saldırıya uğradı
xAI'nin Grok sohbeti, Adversa AI tarafından keşfedilen yeni bir prompt enjeksiyonu saldırısına maruz kaldı.
ReasonGate: LLM Prompt Injection için Açıklanabilir Güvenlik Kapısı
ReasonGate, LLM uygulamaları için açıklanabilir bir güvenlik kapısıdır. Her kararın denetlenebilir bir nedeni vardır.
Yapay zekada yeni evre: sohbetten kontrollü sistemlere geçiş
HalluSquatting saldırısı, Prime Intellect'in 130M$'lık yatırımı ve DeepSeek'in çip planları; yapay zekanın artık model seçiminden iş akışı kontrolüne kaydığını gösteriyor.