» Etiket
quantization
24 yayınx86'nın yeni matris hızlandırıcısı ACE, Arm SME'ye rakip oluyor
Intel'in ACE hızlandırıcısı AMX'i dış çarpım mimarisine taşıyor; Arm SME2 ile karşılaştırmalı teknik analiz.
Bonsai 27B, iPhone'da Yerel Olarak Çalışıyor - 3.9GB Boyutunda
Bonsai 27B modeli, iPhone'da çalışacak şekilde 1-bit kuantizasyon ile geliştirildi.
Qwen3.6-27B'de KV Önbellek Kuantizasyonunun KLD Etkisi
Bartowski'nin Qwen3.6-27B GGUF modelinde Q8, Q6 ve Q5 seviyelerinde KV önbellek kuantizasyonunun KL diverjansına etkisi ölçüldü; (q8_0,q8_0) neredeyse bedava kalite koruyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comMiMo v2.5 ile Hibrid SWA Verimliliği ve İyileştirmeleri
MiMo v2.5, Hibrid SWA ile model verimliliğini artırarak %60 boyut azaltma sağlıyor.