» Etiket
gpu
82 yayınNVIDIA Exemplar Cloud: AI Kümelerinde %8-12 Performans Açığı Nasıl Kapanır?
NVIDIA'nın H100 ve GB200 NVL72 kümelerinde %8-12'lik AI eğitim performans açıklarını perf, Nsight Systems, SMMU ve NUMA ayarlarıyla nasıl çözdüğü.
SkyPilot ve Hugging Face'ten sıfır egress'li çoklu bulut AI depolama
SkyPilot ve Hugging Face, modelleri Hub'da tutup GPU'ları herhangi bir bulutta egress ücreti olmadan çalıştırmayı sağlayan yeni bir depolama entegrasyonu sundu.
Speculative Decoding: Yerel LLM'lerde Kullanılmayan Ücretsiz Hız Kazancı
Speculative decoding, yerel LLM çıktısını değiştirmeden 1.5-2.5 kat hızlandırıyor; 2026'da MTP ile modellere doğrudan entegre edildi.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comZML/LLMD Alfa: CUDA'dan Apple Metal'e Tek LLM Sunucusu
ZML/LLMD alfa; LLaMa, Gemma, Qwen ve Mistral modellerini NVIDIA, AMD, TPU, Intel ve Apple Metal'de tek sunucuyla çalıştırıyor, DFlash ile hızlanma sağlıyor.
CUDA C++, Rust ve Triton: Düzensizlik Maliyetleri
CUDA C++, Rust ve Triton ile GPU dilleri karşılaştırması. Düzensiz iş yüklerinde performans farkları incelendi.
CUDA'dan MLX'e: K-Search ile Apple Silicon'a Geçiş
K-Search, CUDA optimizasyonunu Apple Silicon için MLX'e dönüştürüyor. GPU çekirdekleri için önemli bir gelişme.
XY: Hızlı ve Özelleştirilebilir GPU Destekli Grafik Kütüphanesi
XY, GPU hızlandırmalı hızlı ve etkileşimli bir Python grafik kütüphanesidir.
Qwen3.6-35B-A3B ile 4× Intel Arc Pro B70: 200 tok/s Performans
Qwen3.6-35B-A3B, 4 Intel Arc Pro B70 ile optimize edilmiş dört yapılandırma sunuyor. Performans ve esneklik için ideal çözümler.
Finansal Araçlar için GPU Destekli Kümeleme Çözümü
AdaptGrow ile GPU destekli matris faktörizasyonu kullanarak finansal araçların kümeleme sürecini optimize edin.
Craton Bolt: Saf Rust ile JIT Derlenen GPU SQL Motoru
Craton Bolt, Rust ile yazılmış JIT derlenen bir GPU SQL motorudur. Her sorgu için yeni bir NVIDIA PTX çekirdeği oluşturur.