Ajanlı Yapay Zeka Ekonomisi: Sınırsız Otonomi Neden Pahalıya Patlıyor

Kurumlar, ajanlı yapay zekayı öngörülebilir verimlilik artışı bekleyerek benimsedi; ancak şimdi maliyetler tırmanırken üretkenlik yerinde sayıyor. 15 dolarlık bir iade talebini doğrulamak gibi basit işlemler artık binlerce token'lık akıl yürütme döngüsü tüketiyor ve yıllık yapay zeka bütçeleri yılın ortasına gelmeden tükeniyor. Nisan ayında ortaya çıkan ayrı bir olay, aynı sorunun güvenlik boyutunu gözler önüne serdi: Meta'nın yapay zeka destekli hesap kurtarma sürecindeki bir açık nedeniyle 20 binden fazla Instagram hesabı ele geçirildi; sistem, sıfırlama bağlantısının gerçekten hesap sahibine ait olup olmadığını doğrulamadan gönderiyordu.

İki arıza da aynı kök nedene dayanıyor: yapısal bir eksikliği akıl yürütme sorunu sanmak. Kurumlar iki farklı iş yükü türünü birbirine karıştırıyor: değişkenliğin avantaj olduğu açık uçlu keşif görevleri (kod üretimi, araştırma) ile değişkenliğin risk olduğu kapalı uçlu işlemsel iş akışları (faturalama, hasar işleme). Belirlenimci durum makinelerinin işini kısıtlanmamış, olasılıksal akıl yürütme motorlarına yaptırmak, kontrolden çıkan maliyetlerin ve güvenlik açıklarının temel nedeni.

Analiz, tekrarlayan üç arıza örüntüsü tanımlıyor: yerel optimizasyon (ajanların eksik bağlamı harici sistemlere sorgu atmak yerine sonsuz şekilde yeniden denemesi), önerme kabulü (ajanların, dış dünyaya karşı doğrulama yapmadan güncelliğini yitirmiş veya manipüle edilmiş bağlama güvenmesi; bu hem israfa hem de Instagram ihlalinde görülen güven sınırı çöküşüne yol açıyor) ve tekrarlanan denemelerden kaynaklanan girdi token'larının faturaya hakim olduğu 'bağlam vergisi'. Mühendisler için çıkarım mimari: kapalı iş akışları, daha büyük modeller veya 'daha çok düşün' komutları değil, bağımsız yetkilendirme kontrolleri olan sınırlı ve doğrulanabilir durum makineleri gerektiriyor.