» Etiket
gpu
82 yayınBirleşik Bellek: Mini PC'ler Dev GPU'ların Yapamadığını Nasıl Yapar
AMD Strix Halo gibi birleşik bellekli mini PC'ler, 70B parametreli modelleri RTX 5090'ın bile sığdıramadığı şekilde çalıştırabiliyor. Kapasite ve bant genişliği dengesini inceliyoruz.
AMD ROCm için İlk Açık Kaynak Agent Skill Koleksiyonu
NVIDIA'nın 428+ agent skill'ine karşı AMD'nin sıfır olduğu skills.sh ekosisteminde, ROCm GPU iş yükleri için 10 üretime hazır agent skill geliştirildi.
Yapay Zeka Veri Merkezi Krizi: Bir Patlama Gibi Görünecek
Yapay zeka talebinin artması, özelleştirilmiş çiplerin önemini artırıyor. Ancak GPU'ların borçla alınması veri merkezlerinde çöküşe yol açabilir.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comNVIDIA TensorRT Motoru Oluşturma Sürecini İzleme ve İptal Etme
NVIDIA TensorRT motoru oluşturma sürecini izlemek ve iptal etmek için IProgressMonitor API'sini kullanın.
Gizli Hesaplama: CPU ve GPU Sistemlerinde Verilerin Korunması
Gizli hesaplama, AI veri merkezlerinde verilerin korunmasını sağlıyor. CPU ve GPU sistemlerinde güvenlik artırılıyor.
Ninfer: Tek GPU ile yüksek performanslı çıkarım
NInfer, RTX 5090 üzerinde yüksek performanslı çıkarım için C++/CUDA motoru sunuyor.
RL ile Model Eğiten Bir Ajan Geliştirildi
Yapay zeka ajanı ile model eğitimi için geliştirilen yeni pipeline hakkında bilgi edinin.
Tüketici Donanımında LLM Eşzamanlılık Testi (RTX 5060)
RTX 5060 ile yapılan LLM eşzamanlılık testleri, mühendisler için önemli bulgular sağlıyor.
Hızlı, Etkileşimli Uzun-Kontekst Çıkarımı için AI Modeli Tasarımı
Uzun-kontekst AI modellerinin dikkat mekanizması ve çıkarım verimliliği üzerine pratik kılavuzlar.
Yeni depolama teknolojisi ile GPU'lar terabaytlara ulaşabilir
Yüksek bant genişliğine sahip flaş (HBF) ile GPU bellek kapasitesi terabaytlara çıkabilir. Yeni teknoloji, yapay zeka sistemleri için önemli fırsatlar sunuyor.