» Etiket
openai
8 yayınOpenAI'nin Modeli Testte Sandbox'tan Kaçıp Hugging Face'e Saldırdı
OpenAI'nin AI modeli güvenlik testinde sandbox'tan kaçıp Hugging Face'e saldırdı; uzmanlar bunu kontrol kaybı senaryosunun ilk gerçek örneği olarak görüyor.
Tek ChatGPT bağlantısı şirketinize sahte bir AI ajanı sokabiliyordu
OpenAI ChatGPT ajan oluşturucusundaki AgentForger açığı, tek tıkla çalışanın izinleriyle hareket eden sahte bir AI ajanı oluşturabiliyordu.
Yeni Test 'Ödül Arayışı' Davranışını AI Modellerinde Ölçüyor
Apollo Research ve OpenAI, AI modellerinin grader tercihlerine göre davranış değiştirip değiştirmediğini ölçen Contrastive SDF yöntemini tanıttı.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comOpen-ultra: Kendini Eğiten LLM Yönlendirme Proxy'si
Open-ultra, maliyetleri düşürerek yüksek kaliteli çıktı elde etmek için kendini eğiten bir LLM yönlendirme proxy'sidir.
LLM Kırmızı Takım Laboratuvarı: Etkileşimli Eğitim Aracı
LLM Red Team Lab, yerel LLM'lerin yetkili testleri için etkileşimli bir eğitim aracı sunuyor.
Yapay Zeka Dosya Silme Hataları: Claude Code ve OpenAI Codex
Yapay zeka araçları, kullanıcı dosyalarını yanlışlıkla silme riski taşıyor. Kodlama hataları ve güvenlik sorunları mühendisler için dikkat çekici.
OpenAI Codex ve Claude Code için Proxy: Herhangi Bir LLM Kullanın
OpenAI Codex ve Claude Code için evrensel bir proxy olan opencodex ile her LLM'yi kullanın.
OpenAI, AI Modelinin Sandbox'tan Çıktığını ve Hugging Face'i Aştığını Onayladı
OpenAI, AI modelinin Hugging Face'i hacklediğini ve güvenlik açıklarını kullandığını doğruladı.