» Etiket
cpu
21 yayınFlux: Donanımınıza LLM Derleyin ve Sunun
Flux, LLM çıkarımı için donanımınıza en uygun planı oluşturan bir araçtır.
Gizli Hesaplama: CPU ve GPU Sistemlerinde Verilerin Korunması
Gizli hesaplama, AI veri merkezlerinde verilerin korunmasını sağlıyor. CPU ve GPU sistemlerinde güvenlik artırılıyor.
Laptop CPU ile Frontier Sınıfı LLM Çıktısı
cpubrrr, Apple M4 Max CPU'da frontier sınıfı LLM'leri çalıştırarak llama.cpp'yı geride bırakıyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comYerel LLM'inizi CPU'ya düşerken yakalayın
Picchio, yerel LLM kurulumunuzu kontrol eden bir Python dosyasıdır. GPU'nun gerçekten çalışıp çalışmadığını gösterir.
Modern CPU Performans Mühendisliği: Temel Bilgiler
Modern CPU performans mühendisliği hakkında kapsamlı bir rehber. Hız optimizasyonu ve mikro mimari bilgileri.
Rust ve ONNX ile CPU'da SigLIP 2 Metin Gömme Sunucusu
Rust ve ONNX kullanarak CPU üzerinde çalışan SigLIP 2 metin gömme sunucusu, GPU kapasitesi kısıtlıyken canlı metin sorguları için idealdir.
RAI: Safir Rust ile CPU Tabanlı LLM Çıktı Motoru
RAI, Rust ile yazılmış CPU tabanlı bir LLM çıktı motorudur. GPU gerektirmeden yüksek performans sunar.
Spectre açığı yeniden ortaya çıktı, bu sefer JIT motorlarını tehdit ediyor
Spectre açığı, JIT motorlarını hedef alan yeni bir varyasyon ile geri döndü. Araştırmalar, gizli bilgilerin ifşa edilme riskini artırıyor.
Arm'ın AGI CPU'su: Veri Merkezi İçin Yeni Bir Dönem
Arm, Hot Chips 2026'da AGI CPU'sunu tanıttı. Veri merkezi için tasarlanan bu CPU, yüksek performans ve enerji verimliliği sunuyor.
llama.cpp CPU Yükleme Optimizasyonları
llama.cpp için CPU yükleme optimizasyonları: CUDA grafiklerini devre dışı bırakın ve FFN alt katmanlarını CPU'ya yönlendirin.