Kimi K3'ü kendi sunucunuzda çalıştırmak: Maliyet ve performans
Kimi K3'ün kendi sunucunuzda çalıştırılmasıyla ilgili maliyet ve performans analizi.
Kimi K3, 8×B200 düğüm yerine 8×B300 düğüm kullanılarak test edildi. Bu değişiklik, donanım maliyetini %20 artırırken, görev çözümleme kalitesini %24 oranında artırdı. K3, 16 eşzamanlı oturumda görevlerin %86.4'ünü başarıyla çözebildi. Ancak, token verimliliği GLM-5.2'ye göre %30 daha düşük ve görev süreleri %50 daha uzundu. Bu durum, mühendisler için donanım ve yazılım seçiminde önemli bir denge gerektiriyor.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz