» Etiket
sparsity
2 yayınSparSEEty: Sparsity Kullanan LLM Servis Sistemlerinden Token Çıkartma
SparSEEty, LLM servis sistemlerinden token çıkarma saldırısını ele alıyor. Yüksek başarı oranıyla giriş tokenlerini yeniden yapılandırıyor.
Vektör İşlemcilerde İnferans için Çatı Hattı Sparse Tensör Kontraksiyonları
Ventaglio, vektör işlemcilerde seyrek tensör kontraksiyonlarını hızlandırarak performansı artırıyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com