» Etiket
llm
7 yayınLLM ile Üretilen GPU Çekirdeklerinde Gizli Hatalar Bulundu
12 kapılı yeni bir doğrulayıcı, LLM üretimi GPU çekirdeklerinin %39,5'inin standart testleri geçmesine rağmen bozuk olduğunu ortaya koyuyor.
Shoehorn: LLM'leri Mac'in VRAM'ına Tam Oturacak Şekilde Kuantalıyor
Shoehorn, BF16 GGUF LLM modellerini Mac'inizin kullanılabilir VRAM'ına tam oturacak şekilde tensor başına kuantalayan açık kaynaklı bir Rust CLI aracıdır.
Netflix'ten GenRec: LLM Tabanlı Öneri Sistemine Geçiş
Netflix'in GenRec çalışması, öneri sistemlerini LLM tabanlı üretken mimarilere taşıyarak klasik sıralama modellerinin yerini almayı hedefliyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comCAKE: Yapay Zeka Ajanlarına Özel Derleyici Tasarımıyla Hızlı GPU Çekirdekleri
CAKE, yapay zeka ajanlarını donanıma özgü derleyici IR'ı ile birleştirerek B200'de ayarlanmış GPU çekirdek performansını geçiyor.
Commons: LLM Ajanları Arasında Bilgi Miras Deneyleri
Commons, LLM ajanları arasında bilgi mirası ve hatalarını araştıran deneysel bir çerçevedir.
WMTrace: LLM Metin Su İşaretlerini Anlamak için Yeni Araç
WMTrace, LLM metin su işaretlerini analiz eden bir araçtır. Adli tespit ve açıklayıcı analiz sunar.
LLM Batch API Fiyatlandırması: Bütçede Yer Bulamayan İndirim
LLM batch API fiyatlandırması, Google ve OpenAI gibi sağlayıcıların senkronize oranlarının yarısı kadar. Mühendisler için önemli bilgiler.