» Etiket
gpu
6 yayınBw24: RTX 50 Serisi Blackwell için Sıfırdan Rust+CUDA Çıkarım Motoru
Bw24, RTX 50 serisi Blackwell GPU'lar için sıfırdan yazılmış Rust+CUDA çıkarım motoru; spekülatif kod çözmede llama.cpp'ye karşı 2,3 kata varan hız sunuyor.
GPU Mikroarşitektüründe AI Performansını Kısan Donanım Anahtarları
GPU mikroarşitektüründe AI performansını dinamik sınırlayan dört donanım anahtarı: düşük maliyetli, hızlı stabilize olan güvenlik mekanizması.
Çinli modder, Huawei Arm iş istasyonunda GeForce RTX 4060'ı çalıştırdı
Çinli bir modder, Huawei Arm iş istasyonunda GeForce RTX 4060'ı Windows 11'de çalıştırdı. Performans sınırlamaları ve zorluklar hakkında bilgi edinin.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comRTX 3050 Ti ile 11.9s Sesli Sohbet Sunucusu Kurulumu
RTX 3050 Ti ile sesli sohbet sunucusu kurulumu ve 11.9 saniyelik yanıt süresi hakkında bilgi edinin.
SkewAdam: MoE Durum Belleğini %97 Azaltan Yeni Bir Optimizatör
SkewAdam, MoE eğitiminde durum belleğini %97 azaltarak 6.7B modeli 40GB GPU'ya sığdırıyor.
Velocity: Yerel AI Yığınını Sıfırdan Geliştirme
Velocity, sıfırdan geliştirilmiş yerel AI yığını ile bellek darboğazını çözüyor.