Yapay zeka ajan hafızası: akıllı ama öğrenmeyen bir arşiv
Bugünkü AI ajan hafızası, geçmiş hatalardan öğrenmeyen gelişmiş bir arama sistemidir. Gerçek hafıza, sonuçlardan beslenen bir yargı mekanizması gerektirir.
Yapay zeka ajanlarındaki 'hafıza' iddiası büyük ölçüde retrieval sistemlerinin yeniden markalanmasından ibaret. Vektör depoları, benzerlik araması ve reranker'lar, ajanın geçmişte verdiği bir cevabın doğru mu yanlış mı olduğunu asla bilmesini sağlamıyor; sadece pasif kayıtlar biriktiriyor. Daha gelişmiş sistemler dokümanları özetleyip çelişkileri gideriyor, ama bu da şirketin zaten yazılı olarak bildiği şeyleri yansıtan bir aynadan öteye geçmiyor.
Sorun sadece eksiklik değil, ölçeklendirmenin durumu kötüleştirmesi. Daha fazla belge ve daha büyük indeksler eklemek 'lost in the middle' etkisiyle gürültüyü artırıyor; son araştırmalar en iyi embedding modellerinin bile recall@100'de yaklaşık %20 seviyesinde matematiksel bir tavana çarptığını gösteriyor. Agentic RAG, graf tabanlı hafıza ve fine-tuning gibi yaklaşımlar bu aynayı daha da parlatıyor ama hiçbiri, ajanın bir eylemin sonucunu izleyip bir dahaki sefere neyi hatırlayacağını buna göre değiştirmesini sağlayacak geri bildirim döngüsünü kapatmıyor.
Yazar, gerçek hafızanın depolamadan çok yargıya benzemesi gerektiğini savunuyor: sistem bir eylemin işe yarayıp yaramadığını, bir insan onu geçersiz kıldığında hangisinin doğru olduğunu öğrenebilmeli. Nöroloji literatüründeki hızlı-epizodik ile yavaş-genelleştirici bellek ayrımına gönderme yaparak, depolama ve yargının farklı işler olduğunu, tek bir temsil katmanından ikisini de beklemenin mevcut nesil sistemlerin tıkandığı yer olduğunu vurguluyor.
Mühendisler için asıl mesaj şu: modeller ve harness'lar birbirine yakınsadıkça, kalıcı avantaj artık akıllı promptlardan değil, kendi ortamınızda kendi hata kalıplarınızdan öğrenilenlerden gelecek. Bu da kopyalanamayan, dokümandan çıkarılamayan tek şey.