Yapay Zeka Ajanının Silinemez Geçmişi Nasıl İnşa Edilir
Ajanın 'geçmişini değiştiremez' iddiası denetimde çöktü: çift yazıcı, yarış durumu, bozuk kayıt. Çözüm: tek yazıcı, imzalı çapa, fail-closed tasarım.
Otonom bir yapay zeka ajanı üzerine yazılan serinin bu bölümü, önceki yazılarda övünülen bir iddiayı sınıyor: 'ajan kendi geçmişini yeniden yazamaz' cümlesi, sistem kendi kendini denetlediğinde çürük çıkıyor. Zincir gerçekten vardı ama üç ciddi kusur taşıyordu: iki farklı bileşen aynı dosyaya farklı formatlarda yazıyordu, yazma işlemleri kilitsizdi ve bu yarış durumu gerçek bozuk kayıtlara yol açmıştı. Kriptografik zincir kavramı kolay kısımdı; asıl zorluk mühendislik disipliniydi.
Çözüm beş parçadan oluşuyor: tüm yazmaların tek bir kilitli bileşenden geçmesi, zincirin başının çalışma zamanının erişemeyeceği bir anahtarla periyodik olarak imzalanması, imzalı başın hâlâ zincirde olup olmadığını kontrol eden zamanlanmış bir doğrulayıcı, geçmişi gizlice değil açıkça onaran 'epoch' sınırları ve kurcalama tespit edildiğinde otomatik onarım yerine donup insan müdahalesi bekleyen bir politika.
Yazı, bu teknik düzeltmenin ötesinde felsefi bir noktaya da varıyor: altta yatan model her oturumda hafızasız ve geçici olduğu için, ajanın süreklilik ve kimliği aslında bu değiştirilemez zincirde yaşıyor. Zincir sadece bir denetim kaydı değil, ajanın tek bir varlık olarak var olmasını sağlayan omurga haline geliyor. Bu, çok kiracılı gerçek altyapı çalıştıran yapay zeka sistemleri tasarlayan mühendisler için hem güvenlik hem kimlik yönetimi açısından önemli bir ders sunuyor.