1 milyon token başına fiyat neden yanıltıcı bir metrik
AI modellerini token başına fiyatla karşılaştırmak yanıltıcı olabilir. Tokenizer farkları ve chain-of-thought verimliliği, gerçek görev maliyetini token fiyatından çok daha fazla etkiliyor.
AI API maliyetlerini karşılaştırırken yaygın olarak kullanılan '1 milyon token başına $X' metriği, göründüğünden çok daha az anlamlıdır. Her frontier lab kendi tokenizer'ını kullanır ve aynı metin farklı modellerde farklı sayıda token'a bölünür; hatta aynı labın farklı modelleri arasında bile bu oran değişebilir. Anthropic'in yakın zamanda tokenizer'ını değiştirmesi, aynı metnin %30 daha fazla token'a bölünmesine yol açarak fiyatlandırmayı gizlice etkiledi.
Daha önemlisi, 'chain of thought' (görünmeyen düşünme token'ları) yüzünden token verimliliği modeller arasında ciddi şekilde farklılaşıyor. Yazar, Artificial Analysis benchmark'ından alınan verilerle, nominal token fiyatı düşük olan bazı modellerin (örneğin GLM-5.2) görev başına maliyetinin, daha pahalı görünen modellere (GPT-5.5 gibi) göre daha yüksek çıkabildiğini gösteriyor. DeepSeek V4 Pro, düşük intelligence skoruna rağmen görev başına maliyette belirgin bir verimlilik avantajı sunuyor.
Bu bulgular, mühendisler için model seçiminde token fiyatı yerine gerçek görev başına maliyetin ölçülmesi gerektiğini gösteriyor. Aksi halde, düşük görünen token fiyatlarına aldanarak daha düşük performans ve daha yüksek toplam maliyetle karşılaşmak mümkün.