Yapay Zeka Ajan Döngüsünde Fatura Neden Katlanıyor
Token tasarrufu hileleri AI ajan maliyetini pek etkilemiyor; asıl patlama deneme sayısı, ajan turları ve paralel alt ajanlardan geliyor. Copilot örneğiyle tokenomiks tartışması.
Yazı, context engineering ve token tasarrufu hilelerine (kısa promptlar, /compact, MCP araçlarını kapatma vb.) odaklanan yaygın tartışmanın yanlış yere baktığını savunuyor. Yazara göre asıl maliyet artışı, ajan döngüsü ekonomisinin daha büyük terimlerinde: kaç görev AI'ya yönlendiriliyor, kaç deneme/tekrar yapılıyor, ajan kaç tur çalışıyor ve kaç alt ajan paralel koşuyor. Birkaç bin tokenlik prompt kısaltması sorumluluk hissi verse de, deneme sayısı veya paralellik patladığında bunun etkisi neredeyse sıfıra iner.
İkinci bir problem ise ölçüm biriminin kendisinin akışkan olması. GitHub'ın Copilot'ta premium request birimlerinden token bazlı AI Credits sistemine geçişi buna örnek gösteriliyor: kısa bir sohbet sorusuyla saatler süren otonom bir kodlama oturumu artık aynı maliyeti taşımıyor. Ayrıca Anthropic'in yeni tokenizer'ının aynı metin için yaklaşık %30 daha fazla token üretmesi gibi değişiklikler, kullanıcı davranışı aynı kalsa bile faturayı büyütebiliyor. Bu da fiyatlandırma ve ölçüm kurallarının versiyonlanan bağımlılıklar gibi ele alınması, düzenli iş akışlarının meter değiştikçe yeniden temellendirilmesi gerektiği anlamına geliyor.
Son olarak, kimin hangi kontrolü elinde tuttuğu ayrımı önemli. Claude Code, Copilot veya Cursor gibi hazır ajan araçlarını kullanan biri görevi sınırlayabilir, döngüyü kısıtlayabilir, model seçebilir; ama prompt-cache ayarları, batch işleme veya sağlayıcının gizli sistem iskeleti gibi platform seviyesindeki kaldıraçlara erişemez. API ürünü veya gateway inşa edenler içinse prompt düzeni, önbellekleme stratejisi ve maliyet başına bütçe gerçek birer araç haline geliyor. Mühendisler için çıkarım net: token kırpma yerine görev sayısı, deneme oranı ve paralel ajan kullanımını izlemek, gerçek maliyet sürücülerini görmenin tek yolu.