» Etiket
cuda
14 yayınWISP: Tüketici Donanımında 744B+ Parametreli MoE Modelleri İçin CUDA Motoru
WISP, 744B+ parametreli MoE modellerini tüketici donanımında akış halinde çalıştırmak için geliştirilmiş bir CUDA motorudur.
Ninfer: Tek GPU ile yüksek performanslı çıkarım
NInfer, RTX 5090 üzerinde yüksek performanslı çıkarım için C++/CUDA motoru sunuyor.
CUDA İkili Dosyasının Anatomisi
CUDA ikili dosyalarının yapısını ve EIATTR kodlamasını keşfedin. Nvidia'nın belgelenmemiş özellikleri hakkında bilgi edinin.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comRust 1.97, nvptx64-nvidia-cuda hedefinde taban seviyeyi yükseltiyor
Rust 1.97, nvptx64-nvidia-cuda derleme hedefi için minimum PTX ISA 7.0 ve SM 7.0 gereksinimini getiriyor; eski GPU ve CUDA sürücü desteği kaldırılıyor.