antirez'in DS4 motoru: DeepSeek V4 Flash MacBook Pro'da yerelde zirve

Reddit'te paylaşılan bir test raporuna göre, antirez'in geliştirdiği özel DS4 motoruyla çalıştırılan DeepSeek V4 Flash'ın 2-bit (q2-q4-imatrix) kuantize versiyonu, bir M5 Max 128GB MacBook Pro üzerinde 25-35 token/sn hızla çalışıyor ve şimdiye kadar denenen yerel modeller arasında frontier modellere en yakın sonucu veriyor. Kullanıcı, kısa ve belirsiz bırakılmış promptlarla bile modelin niyeti doğru yakaladığını ve ilk denemede kullanılabilir çıktılar ürettiğini belirtiyor.

Testte kullanılan zorlayıcı bir örnek; pygame ile tek dosyada 3D wireframe arazi render eden, kendi fBm gürültü fonksiyonunu içeren, altıgen dahil üç farklı mesh topolojisini ve özel UI kontrollerini bir arada isteyen kapsamlı bir prompt. Qwen3.6, Gemma 4, Phi-4-mini ve MiniMax gibi 27-35B sınıfı yerel modeller bu görevi ancak parçalara bölerek ve iskele (scaffolding) desteğiyle tamamlayabilirken, hepsinde derinlik sıralaması veya eksik özellik gibi en az bir hata çıkmış. DeepSeek V4 Flash ise bu tür bir müdahaleye ihtiyaç duymadan görevi tek seferde tamamlayan tek model olmuş; bunun nedeni olarak 284B parametreli MoE mimarisinde dikkat, router ve paylaşılan uzman katmanlarının yüksek hassasiyette tutulup yalnızca yönlendirilen uzmanların agresif şekilde kuantize edilmesi gösteriliyor.

Raporun altında yatan asıl teknik nokta, genel amaçlı çalışma zamanlarının henüz V4'ün dikkat şemasını yükleyemediği, DS4'ün ise araç çağrılarını greedy decoding'e sabitleyip disk tabanlı KV önbellek ile uzun oturumlarda prompt işleme maliyetini tekrar ödemediği. Aynı ekip, deneysel GLM5.2 modelini de aynı donanımda denemiş ancak uzun promptlarda ya da araç çağrılarında bozulduğunu belirtmiş. Sonuçlar tek kullanıcının öznel deneyimine dayansa da, büyük MoE modellerin özel motorlarla yerelde nasıl daha kullanışlı hale getirilebileceğine dair somut bir sinyal sunuyor.