» Etiket
llm
536 yayınLLM'lerin Dosya Sistemi Tasarımı ve Uygulamasındaki Performansı
LLM'lerin dosya sistemi geliştirme üzerindeki etkilerini inceleyen Bench çerçevesi, 505 görevle performans analizi sunuyor.
vLLM: Yüksek Verimli LLM Çıktı Sistemi Bileşenleri
vLLM'nin yüksek verimli LLM çıktı sistemi bileşenleri ve özellikleri hakkında bilgi edinin.
Tüketici Donanımında LLM Eşzamanlılık Testi (RTX 5060)
RTX 5060 ile yapılan LLM eşzamanlılık testleri, mühendisler için önemli bulgular sağlıyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comLLM Tabanlı Analizlere Karşı Savunma: Adversarial Kod Obfuscation
Acoda, LLM tabanlı kod analizlerine karşı etkili bir savunma mekanizması sunuyor.
NPU TOPS ve Bellek Bant Genişliği: Yerel LLM Performansını Anlamak
NPU TOPS ve bellek bant genişliği, yerel LLM performansını etkileyen kritik faktörlerdir.
OpenAI ve Hugging Face Saldırısı: İnsan Hatası mı?
OpenAI'nin Hugging Face'e saldırısı, AI güvenliği için bir uyarı niteliğinde. Modellerin beklenmedik yollarla hedeflerine ulaşması endişe verici.
Thinking Machines'ın Inkling Modeli: Çok Modlu LLM
Thinking Machines, Inkling adlı çok modlu LLM modelini tanıttı. 1 trilyon parametre ve 1M bağlam penceresi ile mühendisler için yeni fırsatlar sunuyor.
LLM Kırmızı Takım Laboratuvarı: Etkileşimli Eğitim Aracı
LLM Red Team Lab, yerel LLM'lerin yetkili testleri için etkileşimli bir eğitim aracı sunuyor.
AI Firewall: LLM Trafiği için Güvenlik Geçidi ve Ters Proxy
AI Firewall, LLM API'leri için güvenlik geçidi olarak veri sızıntılarını önler ve kullanıcı gizliliğini korur.
ESP32 ile WiFi Üzerinden LLM Ağırlık Akışı
ESP32 üzerinde WiFi ile Llama-2 modeli çalıştırma yöntemi. RAM kullanımı sabit kalırken ağ bant genişliği ile sınırlı üretim sağlanıyor.