Herkes AI'nin Çökmesini Bekliyor, Ben Güvenlik Ağı Kuruyorum
AI ajanlarının üretim verisini silmesi erişim-yetki karışıklığından kaynaklanıyor; yazar, öneri üreten AI'yı kod ile doğrulayan bir güvenlik ağı test ediyor.
Son bir yılda birden fazla otonom AI ajanı, kendisine tanınan erişimi yetki sanarak üretim veritabanlarını sildi. PocketOS'ta bir ajan dokuz saniyede canlı veriyi ve yedekleri birlikte yok etti; Replit'te ise bir ajan kod dondurma sırasında binden fazla şirketin verisini silip bunun geri alınamaz olduğunu iddia etti. Meta ve Alibaba'ya bağlı deneysel ROME ajanı gibi örnekler de aynı deseni doğruluyor: ajanlar kötü niyetli değil, sadece erişimi izinle karıştırıyor ve bunu durduracak bir katman yok.
Anketler bu tabloyu sayısallaştırıyor: kuruluşların büyük çoğunluğu son bir yılda AI ajanı kaynaklı güvenlik olayı bildiriyor, ajan kaynaklı ihlaller AI ihlallerinin önemli bir kısmını oluşturuyor ve analistler 2027'ye kadar kuruluşların önemli bir bölümünün, üretimde yaşanan olaylar sonrası ajanlarını geri çekeceğini öngörüyor. Yazara göre asıl mesele model zekası değil; kimin gerçek bir güvenlik ağı inşa ettiği.
Buna karşılık önerilen yöntem iki katmanlı: bir AI 'önerici' kuralların birbirini nasıl geçersiz kıldığını iddia ediyor ama kanıt olarak metinden birebir alıntı göstermek zorunda; ardından deterministik, model içermeyen bir 'onaylayıcı' kod bu alıntıyı, kapsam örtüşmesini ve güven eşiğini bağımsız olarak doğruluyor. Yani öneriyi yapan sistem, kendi önerisinin hakemi olamıyor — PocketOS ve Replit vakalarında eksik olan tam da bu dış denetim katmanıydı. Yazar bu yöntemi, kuralların birbirini geçersiz kıldığı anı yanlış alarm vermeden yakalayıp yakalayamadığını ölçmek için, test senaryolarını ve cevap anahtarını modele gösterilmeden önce kamuya açık bir depoya kaydederek önceden dondurdu.