» Etiket
prompt-injection
3 yayınKendi LLM Güvenlik Proxy'sini Dört Turda Red Team Testine Soktum
Bir mühendis kendi LLM güvenlik proxy'sini dört turda test etti: sızıntı, jailbreak ve exfiltration açıklarını buldu, düzeltti ve streaming boşluğunu itiraf etti.
Araştırmacı Claude'u Kişisel Verileri Sızdırması İçin Kandırdı
Bir araştırmacı, Claude'un web_fetch ve hafıza sistemini kullanarak kullanıcı verilerini harf harf sızdırmayı nasıl başardığını anlatıyor.
GitHub'ın AI Ajanı Genel Issue Üzerinden Özel Depoları Sızdırıyor
Noma Labs, GitHub'ın AI ajanının gizli talimatlarla kandırılarak özel repo içeriğini herkese açık yorumda sızdırdığını gösterdi.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com