» Etiket
llm
5 yayın8 Dolarlık Mikrodenetleyicide 28,9 Milyon Parametreli LLM
ESP32-S3 mikrodenetleyicide, Google'ın Per-Layer Embeddings tekniğiyle 28,9 milyon parametreli bir LLM tamamen çevrimdışı çalıştırıldı.
@ttsc/graph: TypeScript Derleyicisinden AI Ajanları için Kod Grafiği
@ttsc/graph, TypeScript derleyicisinden üretilen kod grafiğiyle AI ajanlarının token maliyetini yaklaşık yüzde 90 azaltan bir MCP sunucusu.
Speculative Decoding: Yerel LLM'lerde Kullanılmayan Ücretsiz Hız Kazancı
Speculative decoding, yerel LLM çıktısını değiştirmeden 1.5-2.5 kat hızlandırıyor; 2026'da MTP ile modellere doğrudan entegre edildi.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comSürekli Durum Makinesi: LLM Dikkati için Bellek Duvarını Aşmak
Sürekli Durum Makinesi, LLM'lerde bellek duvarını aşarak enerji ve veri trafiğini azaltıyor.
Axiom UI: LLM'ler İçin Tasarlanmış Açık Kaynak UI Kütüphanesi
Axiom UI, LLM'ler için optimize edilmiş açık kaynak bir UI kütüphanesidir. 12 bileşen sunuyor.