» Etiket
llm
71 yayınArXiv makalelerinin üçte biri artık yapay zeka yazımı gibi okunuyor
12.750 arXiv makalesi analiz edildi: yeni gönderilerin yaklaşık %32'si yapay zeka yazımı gibi puanlanıyor, yöntem ve sınırlamalar detaylı incelendi.
Speculative Decoding: Yerel LLM'lerde Kullanılmayan Ücretsiz Hız Kazancı
Speculative decoding, yerel LLM çıktısını değiştirmeden 1.5-2.5 kat hızlandırıyor; 2026'da MTP ile modellere doğrudan entegre edildi.
Yapay Zeka Kodlama Ajanları: Ağacın Dalını mı, Kökünü mü Alıyor?
SWE-bench ve METR verileri AI kodlama ajanlarının ilerleyişini gösteriyor; ama doğrulama maliyeti mühendislik için hâlâ belirleyici sınır.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comRelay: Değerlendirmeyle Kapılı Akıllı Yönlendirme Sunan Kendi Sunucunda LLM Ağ Geçidi
Relay: Tek Go ikili dosyasıyla dağıtılan, eval ile kapılı akıllı yönlendirmeye sahip, sıfır telemetrili açık kaynak LLM ağ geçidi.
LLMrPro: Kendi Donanımınızla Çalışan Açık Kaynak LLM Dengeleyici
LLMrPro, kendi makinelerinizi ve bulut sağlayıcılarını tek OpenAI uyumlu API altında birleştiren açık kaynak, kendi kendine barındırılan LLM dengeleyicisidir.
Yapay Zekada Maliyet Paradoksu: Modeller Gelişse de Faturalar Şişiyor
Yapay zeka modelleri gelişse de ajan görevlerindeki 'token amplifikasyonu' nedeniyle kullanım maliyetleri hızla artıyor, şirketler harcamaları kısıtlıyor.
Netflix Kendi LLM Sunum Altyapısını Nasıl Kurdu
Netflix'in vLLM, Triton ve OpenAI-uyumlu API ile kurduğu kendi LLM sunum altyapısının mimari kararları ve üretimde çıkan sorunlar.
Sürekli Durum Makinesi: LLM Dikkati için Bellek Duvarını Aşmak
Sürekli Durum Makinesi, LLM'lerde bellek duvarını aşarak enerji ve veri trafiğini azaltıyor.
LLM Çıkarımını Güvenilir Hale Getirmek
Honeycomb, LLM çıkarımının güvenilirliğini artırmak için doğrulama süreçlerini ele alıyor.
Statgate: LLM Değerlendirmeleri için İstatistiksel Kalibre Kapıları
Statgate, LLM değerlendirmelerinde yanlış pozitifleri azaltan istatistiksel kapılar sunuyor.