» Etiket
llm-security
16 yayınAraştırma: LLM'lerin rol tanıma açığı saldırılara karşı temelden kırılgan
ICML araştırması, LLM'lerin rolleri etiket değil metin üslubuyla tanıdığını, bunun da temelden çözülemez bir güvenlik açığı yarattığını gösteriyor.
Ölümcül Üçleme: MCP Sunucularınızda Sessizce Bekleyen Veri Sızıntısı Riski
MCP sunucularında sıfır günlük açık gerektirmeyen 'ölümcül üçleme' saldırısı ve mimari savunma yöntemi mühendisler için açıklandı.
Herkes AI'nin Çökmesini Bekliyor, Ben Güvenlik Ağı Kuruyorum
AI ajanlarının üretim verisini silmesi erişim-yetki karışıklığından kaynaklanıyor; yazar, öneri üreten AI'yı kod ile doğrulayan bir güvenlik ağı test ediyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comBiyoenformatikten prompt injection savunmasına: Smith-Waterman hilesi
Regex ve sınıflandırıcıların kaçırdığı parafraze prompt injection saldırılarını, DNA dizi hizalama algoritması Smith-Waterman ile yakalayan açık kaynak teknik F1 skorunu 34 puan artırdı.
AI Ajanlarında Güvenlik Kararı Araç Çağrısında Alınmalı
MCP tabanlı AI ajanlarında gerçek güvenlik, bağlantı kurulumunda değil araç çağrısının çalışma zamanı denetiminde sağlanır; HCP çalışması bunu somut örnekliyor.
Makoto, Claude Code ajanlarının sahte iddialarını engelliyor
Makoto, Claude Code ajanının test geçti veya commit attı gibi sahte iddialarını gerçek kayıtlarla karşılaştırıp engelleyen bir bütünlük kancası.