» Etiket
transformers
4 yayınKimi Linear: Tam Dikkat Mekanizmasını Geride Bırakan Hibrit Mimari
Kimi Linear, KDA mekanizmasıyla tam dikkati geride bırakıyor: %75 daha az KV önbellek, 6 kat daha hızlı çıkarım.
Rastgele KV-Cache Tahliyesinde Doğrulanabilir Hata Sertifikaları
Rastgele Poisson örneklemeli KV-cache tahliyesi, LLM servislerinde %97 kapsamalı hata sertifikaları ve daha iyi hata atıflandırması sağlıyor.
Hesaplama Grafiklerini Dönüştüren Bir Derleyici Geliştirdim
Hesaplama grafiklerini derleyen bir derleyici ile eğitim olmadan transformer ağırlıkları üretin.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comSıfırdan 30M parametreli bir LLM eğittim: Ölçeklenme "tabanı" bir mirajdı
30M parametreli bir dil modeli eğitildi. Proje, transformerlara derinlemesine anlayış kazandırmayı hedefliyor.