Yapay Zekada Asıl Fark: Büyük Bağlam Değil, Akıllı Mimari
Devasa context window'lar AI'ı çözmedi. ARC-AGI-3 testinde modeller %1'in altında kalırken, kazananlar artık modeli değil, etrafındaki sistemi tasarlıyor.
Sektörde yaygın bir varsayım var: bir LLM'e ne kadar çok veri (örneğin tüm bir kod tabanını tek seferde) verilirse, o kadar iyi akıl yürütür. Ancak bu makale bu varsayımın giderek geçersiz kaldığını savunuyor. Context window'ları yüz binlerce hatta milyonlarca token'a çıkarmak sorunu çözmedi; aksine dikkat dağılımını artırdı, token israfını büyüttü ve hataları hacim altında gizledi. Yeni ARC-AGI-3 benchmark'ı bunu somutlaştırıyor: interaktif akıl yürütme görevlerinde eğitilmemiş insanlar neredeyse %100 başarı gösterirken, frontier modeller %1'in altında kaldı. Fark bellek değil, mimari.
Yazar, büyük bir tuvalin amatör bir ressamı otomatik olarak iyileştirmediği benzetmesini kullanıyor: daha fazla context, daha fazla hata yapma alanı demek. Öne çıkan ekipler artık modeli nihai ürün olarak değil, daha büyük bir sistemin dar bir bileşeni olarak ele alıyor. Kod tabanları soyut sözdizimi ağaçlarına, aranabilir semantik uzaylara dönüştürülüyor; görevler küçük, hedefli sorgulara bölünüyor; orkestrasyon katmanları kalıcı bellek, dinamik retrieval, doğrulama döngüleri ve akıllı yönlendirme ile çalışıyor. Amaç maksimum girdi değil, minimum gerekli context.
Bu, mühendisler için doğrudan maliyet ve ölçeklenebilirlik meselesi. Ham context'e güvenen ekipler teknik borç biriktirip API bütçelerini tüketirken, sistem mimarisine yatırım yapanlar ucuz yerel modellerle pahalı frontier modelleri akıllıca yönlendirerek üretim ölçeğinde çalışabiliyor. Yazının vurgusu net: yapay zekanın bir sonraki rekabet avantajı en büyük model ya da en uzun prompt değil, modelin etrafına kurulan sistem mimarisi olacak.