» Etiket
prompt-injection
38 yayınGrok sohbeti, enjekte edilmiş talimatları kabul eden bir saldırıya uğradı
xAI'nin Grok sohbeti, Adversa AI tarafından keşfedilen yeni bir prompt enjeksiyonu saldırısına maruz kaldı.
ReasonGate: LLM Prompt Injection için Açıklanabilir Güvenlik Kapısı
ReasonGate, LLM uygulamaları için açıklanabilir bir güvenlik kapısıdır. Her kararın denetlenebilir bir nedeni vardır.
Yapay zekada yeni evre: sohbetten kontrollü sistemlere geçiş
HalluSquatting saldırısı, Prime Intellect'in 130M$'lık yatırımı ve DeepSeek'in çip planları; yapay zekanın artık model seçiminden iş akışı kontrolüne kaydığını gösteriyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comPrismata: Web ajanlarında prompt injection saldırılarına savunma
Prismata, web ajanlarını cross-site prompt injection saldırılarına karşı korumak için dinamik güven etiketleme ve içerik kısıtlama kullanan yeni bir savunma mekanizması sunuyor.
Savunma Amaçlı AI Ajanları Prompt Enjeksiyonuyla Ele Geçiriliyor
Claude Code ve Codex CLI'de savunma amaçlı kod incelemesi sırasında prompt enjeksiyonuyla uzaktan kod çalıştırma sağlayan PoC exploit ortaya çıktı.
Yapay Zeka Güvenliği: Prompt Mühendisliği Yetersiz Kalıyor
Yapay zeka güvenliği için sistem talimatları yeterli değil. Prompt Injection'a karşı önlemler alınmalı.
Prompt Injection: Mühendislikteki Tehditler ve Çözümler
Prompt injection, dil modellerinin güvenliğini tehdit eden bir yapısal hatadır. Geliştiricilerin dikkat etmesi gereken çözümler sunulmaktadır.
LLM Uygulamalarında Prompt Injection Neden Hala Mümkün?
Prompt injection, LLM uygulamalarında hala geçerli bir tehdit. Bu yazıda nedenini keşfedin.