» Etiket
llm
6 yayınCPU'da LLM: hız kazandıran kuantizasyon değil, metin formatı
Ücretsiz ARM CPU sunucusunda ölçüldü: prompt'u 'etiket: değer' formatına çevirmek LLM prefill süresini 6,5 kat kısalttı, kuantizasyon hileleri doğruluğu düşürdü.
NVIDIA'dan Daha Güvenli AI Ajanları için Dört Öneri
NVIDIA AI Red Team'in bulgularına göre AI ajanlarını güvenli dağıtmak için dört kritik kontrol: erişim, kod çalıştırma, ağ egress ve sır yönetimi.
OpenAI Ajan Döngüsünü Nasıl Hızlandırıyor: Harness, API, Çıkarım
OpenAI'nin harness, API ve çıkarım katmanlarındaki ajan döngüsü optimizasyon tekniklerini ve maliyet-verimlilik yaklaşımını inceliyoruz.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comAdaMAST: LLM Ajanlarını Geliştirmek için Adaptif Hata Taksonomileri
AdaMAST, LLM ajanlarının başarısızlıklarını analiz eden ve iyileştiren bir taksonomi sistemidir.
OpenTelemetry ile LLM Ajanını İzleme Rehberi
OpenTelemetry ile LLM ajanınızı nasıl izleyebileceğinizi öğrenin. GenAI standartları ve otomatik enstrümantasyon hakkında bilgi edinin.
LLM Uygulamalarında Prompt Injection Neden Hala Mümkün?
Prompt injection, LLM uygulamalarında hala geçerli bir tehdit. Bu yazıda nedenini keşfedin.