» Etiket
performance
6 yayınGigatoken: Rust BPE Tokenizer 24.53 GB/s'e Ulaştı, 989 Kat Hızlandı
Rust tabanlı Gigatoken, regex yerine SWAR ve dual-cursor teknikleriyle BPE tokenizasyonda 24.53 GB/s hıza ulaşarak HuggingFace tokenizers'ı geride bırakıyor.
Sanal ipliklerin pinlenmesini tespit etme ve standart iplik dökümündeki zorluklar
Sanal ipliklerin pinlenmesini tespit etmek için yeni bir araç olan ThreadMine ile ilgili bilgi edinin.
Cache Yanıt Kuralları: Performansı Artıran Yeni Özellik
Cache Yanıt Kuralları, Cloudflare'da önbellek yönetimini iyileştirir ve performansı artırır.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comLaptop CPU ile Frontier Sınıfı LLM Çıktısı
cpubrrr, Apple M4 Max CPU'da frontier sınıfı LLM'leri çalıştırarak llama.cpp'yı geride bırakıyor.
Canlı Ses Yayını Ölçeklendirme: QUIC ve MoQ İletimleri
Tula Spaces'ın ölçeklendirilmesi sürecinde yaşananlar ve mühendisler için çıkarımlar.
TTFT Benchmark: LLM Gateway ve OpenRouter Karşılaştırması
LLM Gateway, OpenRouter'a göre %35 daha hızlı. TTFT benchmark sonuçları ve mühendisler için önemi.