Yerel Model Showdown 9. Tur: Qwen 3.6, Nemotron ve Qwythos Kod Testinde
RTX 5090'da llama.cpp ile beş LLM'in gerçek kodlama görevinde karşılaştırıldığı Local Model Showdown 9. tur analizi ve bulguları.
Devrazzi'nin donanım üzerinde çalıştırdığı Local Model Showdown serisinin 9. turunda, tek bir RTX 5090 üzerinde llama.cpp ile beş model gerçek bir kodlama görevinde (admin paneline etiket yöneticisi ekleme) karşılaştırıldı. Plan üç modelle sınırlıyken, iki modelin ilk istekte llama.cpp'nin araç-çağrısı ayrıştırıcısıyla çakışan jinja şablon hatalarına takılması testi beşe çıkardı; her iki hata da GGUF meta verisinden şablon çekilip elle yamanarak canlı olarak düzeltildi.
Sonuçta beş modelden üçü çalışan bir PR ile görevi tamamladı. 7. turda 77 mesaj boyunca ekran görüntüsü alamayıp commit atamadan çöken Qwen 3.6 35B-A3B, bu turda sorunsuz şekilde en temiz koşuyu sergileyerek önceki başarısızlığın mimariden değil o günkü koşuldan kaynaklandığını gösterdi. Yoğun 27B model de görevi tamamladı ama iki kat daha fazla müdahale gerektirdi; Qwythos-9B ve Nemotron-3-Nano ise şablon düzeltilmesine rağmen farklı nedenlerle başarısız oldu.
Mühendisler için önemli nokta: dense-vs-MoE mimari karşılaştırması bu turda netleşmek yerine daha da belirsizleşti — turun en iyi performansı bir MoE modelinden geldi, başarısızlıklar ise bir dense bir MoE model arasında paylaşıldı. Ayrıca llama.cpp'nin otomatik şablon/araç-çağrısı işleme zincirinin, model davranışını görev başlamadan önce nasıl bozabileceği somut örneklerle gösterildi.