» Etiket
ai-safety
9 yayınYapay Zekanın Sessiz İhmallerini Yakalayan Yeni Doğrulama Katmanı
Yapay zeka modellerinin öne sürmesi gereken iddiaları sessizce atlamasını yakalayan katmanlı bir doğrulama sistemi geliştirildi.
Yeşil Skor Bir Kanıt Değildir: Otorite Boşlukları Testten Kaçtı
16/16 geçen bir test paketi, otorite modelindeki üç kritik açığı gizliyordu. Yeşil skorun neden tek başına yeterli kanıt olmadığına dair bir analiz.
MIT'in Yeni Yöntemi CSAM Üretimine Ayarlı AI Modellerini Görüntü Üretmeden Tespit Ediyor
MIT ve Thorn'un geliştirdiği Gaussian probing yöntemi, CSAM üretimine ayarlı AI modellerini görüntü üretmeden %100 doğrulukla tespit ediyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comDenetim: Dağılımsal RL Ajanlarının Risk İddiaları Büyük Ölçüde Yanlış
Yeni bir denetim çerçevesi, QR-DQN ve C51 gibi dağılımsal RL ajanlarının risk iddialarının çoğunun gerçek değil, eğitim yapısına bağlı bir yanılgı olduğunu ortaya koyuyor.
"Halüsinasyon" Tek Bir Hata Değil, Üç Farklı Hata
Halüsinasyon üç ayrı sorun: düzeltilebilir bağlam eksikliği, doğrulanamaz akıcılık ve ulaşılamaz gelecek bilgisi. Mühendisler için ayrım rehberi.
Açık kaynaklı yeni benchmark, AI modellerindeki siyasi eğilimi ölçüyor
Açık kaynaklı The Neutrality Project, AI modellerinin siyasi eğilimlerini altı eksende ölçen, yeniden üretilebilir bir benchmark yayınladı.
AI Ajanı Testinde Hata, Cevapta Değil İzde Görünür
Bir AI ajanı test edilirken sekiz yeşil koşudan sonra gelen kırmızı, hatanın cevapta değil izde gizlendiğini gösterdi.
Gençler için Güvenli AI: Tek Ret Değil, Kurtarılabilir Bir Akış Gerekir
Gençlere yönelik AI güvenliği için tek ret yerine anlaşılabilir, orantılı ve kurtarılabilir bir eskalasyon akışı tasarım önerisi ve araştırma protokolü.
agent-gate: Yapay zeka ajanlarına sınırsız yetki vermeyin
agent-gate, AI ajanlarının önerdiği eylemleri deterministik kod kontrollerinden geçirip tek kullanımlık token ile yetkilendiren, MIT lisanslı bağımsız Python katmanı.