Kod Modu ile Ajan Maliyetlerinde %99,2 Azaltım: Gerçek Ölçüm
Kod yürütme modu, MCP tabanlı ajan iş akışlarında token maliyetini %99,2 azalttı; üretim verisiyle ölçülen sonuçlar ve metodoloji.
Anthropic'in Kasım ayında yayımladığı MCP kod yürütme yaklaşımı, ham API çağrılarını doğrudan modelin bağlamına aktarmak yerine, ajana bir sandbox ve üretilmiş bir API vererek işi yaptırmayı öneriyor: 150.000 token'lık bir görev 2.000 token'a düşüyor. Cloudflare da benzer fikri 'Code Mode' adıyla Eylül'de duyurmuştu. Bir mühendislik ekibi bu yaklaşımı kendi üretim ortamında, kendi yazdıkları workflow-triage betiği üzerinden test etti.
Betik, 24 workflow ve 60 zamanlanmış görevi tarayan 26 ayrı API çağrısını kendi sandbox'ında yürütüyor ve modele yalnızca tek bir özet nesnesi (25.811 karakter, ~6.450 token, 13,12 saniye) ulaşıyor. Aynı çağrılar tek tek yapılsaydı, tahmini ~3,26 milyon karakter ve ~815.000 token bağlama girecekti — bu da yaklaşık 126 kat fazla veri ve %99,2 azaltım anlamına geliyor.
Ekip, ham yol için verilen 2–6,5 dakika süre ve $2,44 maliyet rakamlarının tahmini olduğunu, ancak metodolojinin ölçülmüş örneklemlere dayandığını açıkça belirtiyor: gerçek SDK çağrıları örneklenmiş, ortalama karakter/çalıştırma oranı hesaplanmış ve bu oran toplam çalıştırma sayısına uygulanmış. Ayrıca $2,44 rakamının bir taban değer olduğu, gerçek çok turlu bir ajan döngüsünde ham verinin her turda yeniden gönderileceği için maliyetin bundan daha yüksek olacağı vurgulanıyor.
Mühendisler için asıl mesaj: toplu işlemler veya çok sayıda araç çağrısı gerektiren görevlerde, ham veriyi modelin bağlamına sokmak yerine bir sandbox script'ine devretmek hem token maliyetini hem de gecikmeyi ciddi ölçüde azaltıyor — ve bu artık teorik değil, üretimde ölçülmüş bir kazanç.