» Etiket

cuda

14 yayın

15 Ağu 20269.10
LLM ile Üretilen GPU Çekirdeklerinde Gizli Hatalar Bulundu
12 kapılı yeni bir doğrulayıcı, LLM üretimi GPU çekirdeklerinin %39,5'inin standart testleri geçmesine rağmen bozuk olduğunu ortaya koyuyor.
benchmarking blackwell cuda gpu-kernels
28 Tem 20268.50
CUDA 13.3, GPU'lara Taşımasız Çarpma İçin Donanım Desteği Getiriyor
CUDA 13.3'teki yeni clmad PTX komutu, GPU'larda taşımasız çarpmayı hızlandırarak GHASH ve sum-check protokolünde 18 kata varan performans artışı sağlıyor.
cryptography cuda gpu-computing nvidia
12 Tem 20268.43
Tesla P100'ün llama.cpp'deki yıllık FP16 hatası 3 satırla çözüldü
llama.cpp'deki 3 satırlık CUDA yaması, Tesla P100'ün yıllardır süren gizli FP16 hassasiyet hatasını performans kaybı olmadan gideriyor.
cuda gpu-inference llama.cpp local-llm
Reklam
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com
20 Tem 20268.41
PXQ: ik_llama.cpp forku eski Tesla/Pascal GPU'larda +88% prefill kazandırıyor
ik_llama.cpp forku pxq_llama, yeni PXQ quant formatıyla Tesla P100/V100 ve 1080 Ti'de prefill ve decode hızını ciddi oranda artırıyor.
cuda gpu-inference llm moe
13 Tem 20268.40
Flash-MSA: Seyrek Dikkatle Milyon Token Eğitimini Hızlandırma
Flash-MSA, Hopper/Blackwell GPU'larda MiniMax Sparse Attention için açık kaynak CuTeDSL eğitim çekirdekleri sunuyor; geri yayılım doğrusal zamanda çalışıyor.
attention-mechanisms cuda gpu-kernels llm-training
28 Tem 20268.30
Nunchaku'nun 4-bit Difüzyon Çıkarımı Artık Diffusers'ta
Nunchaku'nun 4-bit SVDQuant kuantizasyonu artık Diffusers'a native entegre; ayrı motor veya derleme gerekmeden from_pretrained ile yüklenebiliyor.
cuda diffusers diffusion-models inference-optimization
15 Ağu 20268.10
CAKE: Yapay Zeka Ajanlarına Özel Derleyici Tasarımıyla Hızlı GPU Çekirdekleri
CAKE, yapay zeka ajanlarını donanıma özgü derleyici IR'ı ile birleştirerek B200'de ayarlanmış GPU çekirdek performansını geçiyor.
ai-agents compilers cuda gpu
22 Tem 20268.10
Bw24: RTX 50 Serisi Blackwell için Sıfırdan Rust+CUDA Çıkarım Motoru
Bw24, RTX 50 serisi Blackwell GPU'lar için sıfırdan yazılmış Rust+CUDA çıkarım motoru; spekülatif kod çözmede llama.cpp'ye karşı 2,3 kata varan hız sunuyor.
cuda gpu llm-inference nvidia
12 Ağu 20267.91
CUDA C++, Rust ve Triton: Düzensizlik Maliyetleri
CUDA C++, Rust ve Triton ile GPU dilleri karşılaştırması. Düzensiz iş yüklerinde performans farkları incelendi.
cuda gpu performance programming
30 Tem 20267.90
CUDA'dan MLX'e: K-Search ile Apple Silicon'a Geçiş
K-Search, CUDA optimizasyonunu Apple Silicon için MLX'e dönüştürüyor. GPU çekirdekleri için önemli bir gelişme.
ai apple-silicon cuda gpu