» Etiket
gpu
16 yayıngVisor'da RDMA: GPU Ağ Bağlantısına Derin Bir Bakış
gVisor, RDMA desteği ile GPU ağ bağlantısını geliştiriyor. Performans artışı ve güvenlik izolasyonu sağlıyor.
RTX 3050 Ti ile 11.9s Sesli Sohbet Sunucusu Kurulumu
RTX 3050 Ti ile sesli sohbet sunucusu kurulumu ve 11.9 saniyelik yanıt süresi hakkında bilgi edinin.
SkewAdam: MoE Durum Belleğini %97 Azaltan Yeni Bir Optimizatör
SkewAdam, MoE eğitiminde durum belleğini %97 azaltarak 6.7B modeli 40GB GPU'ya sığdırıyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comGEMM Performans Ölçüm Yöntemleri Rehberi
GEMM performansını ölçmek için güvenilir ve tekrarlanabilir yöntemler geliştirin.
CrowdTensor: Gönüllü LoRA Eğitimi ile Kesintili GPU'larda İlerleme
CrowdTensor, gönüllü LoRA eğitimi ile kesintili GPU'larda ilerlemeyi sağlıyor. Beta kayıtları açıldı.
Velocity: Yerel AI Yığınını Sıfırdan Geliştirme
Velocity, sıfırdan geliştirilmiş yerel AI yığını ile bellek darboğazını çözüyor.