» Etiket
gpu
10 yayınNVIDIA ModelExpress: P2P RDMA ile Model Başlatma Saniyelere İniyor
NVIDIA ModelExpress, P2P GPU-to-GPU RDMA transferleriyle LLM ağırlık yüklemesini hızlandırıyor; model başlatma süresi dakikalardan saniyelere iniyor.
Metin Difüzyonu mu Otoregresif Model mi: GPU Kullanımının Gerçek Hesabı
Difüzyon tabanlı dil modelleri ile otoregresif modellerin GPU kullanım ekonomisi karşılaştırması: gecikme, batching ve gerçek token maliyeti.
Meta, GPU Duraksamalarını Azaltmak için BLOB Depolamayı Yeniden Yapılandırdı
Meta, GPU duraksamalarını ortadan kaldırmak için BLOB depolama mimarisini birleşik metadata ve doğrudan istemci akışıyla yeniden tasarladı.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comSkyPilot ve Hugging Face'ten sıfır egress'li çoklu bulut AI depolama
SkyPilot ve Hugging Face, modelleri Hub'da tutup GPU'ları herhangi bir bulutta egress ücreti olmadan çalıştırmayı sağlayan yeni bir depolama entegrasyonu sundu.
XY: Hızlı ve Özelleştirilebilir GPU Destekli Grafik Kütüphanesi
XY, GPU hızlandırmalı hızlı ve etkileşimli bir Python grafik kütüphanesidir.
NVIDIA TensorRT Motoru Oluşturma Sürecini İzleme ve İptal Etme
NVIDIA TensorRT motoru oluşturma sürecini izlemek ve iptal etmek için IProgressMonitor API'sini kullanın.
Gizli Hesaplama: CPU ve GPU Sistemlerinde Verilerin Korunması
Gizli hesaplama, AI veri merkezlerinde verilerin korunmasını sağlıyor. CPU ve GPU sistemlerinde güvenlik artırılıyor.
Ninfer: Tek GPU ile yüksek performanslı çıkarım
NInfer, RTX 5090 üzerinde yüksek performanslı çıkarım için C++/CUDA motoru sunuyor.
NVIDIA OptiX Toolkit ile Ray Tracing Uygulamalarını Hata Ayıklama
NVIDIA OptiX Toolkit, ray tracing uygulamaları için hata ayıklama araçları sunar. OTK, hata kodlarını kontrol etme ve cihaz tarafı hata ayıklama sağlar.
AMD'nin CDNA5 Mimarisi: AI 2026 Etkinliğinden Öne Çıkanlar
AMD, CDNA5 mimarisini AI 2026 etkinliğinde tanıttı. Yeni mimari, RDNA'ya geçiş ve verimlilik artışları sağlıyor.