» Etiket
machinelearning
3 yayınSkewAdam: MoE Durum Belleğini %97 Azaltan Yeni Bir Optimizatör
SkewAdam, MoE eğitiminde durum belleğini %97 azaltarak 6.7B modeli 40GB GPU'ya sığdırıyor.
Sıfırdan 30M parametreli bir LLM eğittim: Ölçeklenme "tabanı" bir mirajdı
30M parametreli bir dil modeli eğitildi. Proje, transformerlara derinlemesine anlayış kazandırmayı hedefliyor.
Poolside Laguna S 2.1'i Tanıttı: Açık Ağırlıkta Kodlama Modeli
Poolside, 118B parametreli Laguna S 2.1 modelini tanıttı. Model, bellek kullanımı ve etkinliği ile dikkat çekiyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com