» Etiket
prompt-injection
35 yayınPrismata: Web ajanlarında prompt injection saldırılarına savunma
Prismata, web ajanlarını cross-site prompt injection saldırılarına karşı korumak için dinamik güven etiketleme ve içerik kısıtlama kullanan yeni bir savunma mekanizması sunuyor.
Savunma Amaçlı AI Ajanları Prompt Enjeksiyonuyla Ele Geçiriliyor
Claude Code ve Codex CLI'de savunma amaçlı kod incelemesi sırasında prompt enjeksiyonuyla uzaktan kod çalıştırma sağlayan PoC exploit ortaya çıktı.
Yapay Zeka Güvenliği: Prompt Mühendisliği Yetersiz Kalıyor
Yapay zeka güvenliği için sistem talimatları yeterli değil. Prompt Injection'a karşı önlemler alınmalı.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comPrompt Injection: Mühendislikteki Tehditler ve Çözümler
Prompt injection, dil modellerinin güvenliğini tehdit eden bir yapısal hatadır. Geliştiricilerin dikkat etmesi gereken çözümler sunulmaktadır.
LLM Uygulamalarında Prompt Injection Neden Hala Mümkün?
Prompt injection, LLM uygulamalarında hala geçerli bir tehdit. Bu yazıda nedenini keşfedin.