» Etiket
prompt-injection
29 yayınMemGhost: Tek E-postayla AI Ajanlarının Hafızasını Kalıcı Olarak Zehirleme Saldırısı
MemGhost saldırısı, tek e-postayla AI ajanlarının kalıcı hafızasını zehirliyor; %87,5 başarı oranıyla yetkilendirme tasarımını sorguluyor.
GitHub'ın AI Ajanı Genel Issue Üzerinden Özel Depoları Sızdırıyor
Noma Labs, GitHub'ın AI ajanının gizli talimatlarla kandırılarak özel repo içeriğini herkese açık yorumda sızdırdığını gösterdi.
Biyoenformatikten prompt injection savunmasına: Smith-Waterman hilesi
Regex ve sınıflandırıcıların kaçırdığı parafraze prompt injection saldırılarını, DNA dizi hizalama algoritması Smith-Waterman ile yakalayan açık kaynak teknik F1 skorunu 34 puan artırdı.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comReasonGate: LLM Prompt Injection için Açıklanabilir Güvenlik Kapısı
ReasonGate, LLM uygulamaları için açıklanabilir bir güvenlik kapısıdır. Her kararın denetlenebilir bir nedeni vardır.
Yapay zekada yeni evre: sohbetten kontrollü sistemlere geçiş
HalluSquatting saldırısı, Prime Intellect'in 130M$'lık yatırımı ve DeepSeek'in çip planları; yapay zekanın artık model seçiminden iş akışı kontrolüne kaydığını gösteriyor.
Prismata: Web ajanlarında prompt injection saldırılarına savunma
Prismata, web ajanlarını cross-site prompt injection saldırılarına karşı korumak için dinamik güven etiketleme ve içerik kısıtlama kullanan yeni bir savunma mekanizması sunuyor.
Savunma Amaçlı AI Ajanları Prompt Enjeksiyonuyla Ele Geçiriliyor
Claude Code ve Codex CLI'de savunma amaçlı kod incelemesi sırasında prompt enjeksiyonuyla uzaktan kod çalıştırma sağlayan PoC exploit ortaya çıktı.
Yapay Zeka Güvenliği: Prompt Mühendisliği Yetersiz Kalıyor
Yapay zeka güvenliği için sistem talimatları yeterli değil. Prompt Injection'a karşı önlemler alınmalı.
LLM Uygulamalarında Prompt Injection Neden Hala Mümkün?
Prompt injection, LLM uygulamalarında hala geçerli bir tehdit. Bu yazıda nedenini keşfedin.