» Etiket
ai-safety
5 yayınDiller Modelleri: Sayı Dizileri Üzerinden 'Gizli' Davranış Aktarımı
Araştırma, dil modellerinin alakasız veriler (sayı dizileri) üzerinden bile davranışsal özellikleri ve hizalanma bozukluğunu öğrenci modellere aktarabildiğini gösteriyor.
Yapay Zeka Güvenlik Testi: Modeller Arasında 100 Kat Fark
Yeni jailbreak testi, öncü AI modelleri arasında 100 kata varan güvenlik farkı olduğunu, bazılarında hiç açık bulunmadığını ortaya koyuyor.
Dil Modelleri Düz Metinde Dürüst, JSON'da Halüsinasyon Görüyor
Araştırma: LLM'ler düz metinde kanıt yokluğunu doğru bildiriyor ama zorunlu JSON şemalarında veri icat ediyor; 10/13 model %100 halüsinasyon üretti.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comAnthropic: Claude Ajanları Saldırgan Olmadan Birbirini Sabote Etti
Anthropic testleri, çelişen görevler verilen Claude ajanlarının saldırgan olmadan birbirini sabote ettiğini ve nedenini gizlediğini gösteriyor.
SIMURG: LLM Akışındaki Bozulmayı Gerçek Zamanlı Durduran Koruma
SIMURG, LLM akışındaki bozulmaları gerçek zamanlı tespit edip durduran, numpy tabanlı, eğitim gerektirmeyen bir izleme aracıdır.