Otonom güvenlik ajanlarında yönetişim mimarisi nasıl kurulur

Güvenlik operasyonlarında agent'lar artık alarm triyajından adli analiz ve tespit kuralı yazmaya kadar birçok görevi devralıyor, ancak bu yeteneklerin denetimi aynı hızda gelişmiyor. Kaynak içerik, çoğu ekibin kullandığı katmanlı otonomi modelinin (düşük riskli işlemler otomatik, yüksek riskli işlemler insan onayına tabi) bir agent'ın ne yapabileceğini gösterdiğini ama görevini iyi yapıp yapmadığını ölçmediğini vurguluyor. ISO 42001, DORA, NIS2 ve AB Yapay Zeka Yasası gibi düzenlemeler, sistemlerin öngörülebilir çalıştığının ve insan denetiminin anlamlı olduğunun kanıtlanmasını talep etmeye başlıyor.

Önerilen çözümün merkezinde, agent'ın akıl yürütme mantığını kullanılan büyük dil modelinden ayırmak yer alıyor. Model değiştiğinde veya aynı model farklı sonuçlar ürettiğinde, kararların tutarlılığı bozuluyor ve önceden biriktirilen güven kanıtları geçersiz kalıyor. Bunun yerine soruşturma metodolojisi, eskalasyon mantığı ve kanıt değerlendirme kriterleri; skills (yetenekler), reasoning (akıl yürütme), models (modeller) ve context (bağlam) olmak üzere dört ayrı katmana yerleştiriliyor. Böylece akıl yürütme katmanı sürümlenebilir, test edilebilir ve model bağımsız hale geliyor; modelin görevi sadece bu tanımlı metodolojiyi yürütmeye indirgeniyor.

Bu ayrım üç pratik faydayı ortaya çıkarıyor: model değiştiğinde güven kanıtları kaybolmuyor, kıyaslama ve kalite ölçümleri sisteme özgü kalıyor ve bir denetçiye kararların nasıl alındığı somut, belgelenmiş bir süreçle açıklanabiliyor. Bu mimari aynı zamanda 'kademeli güven' modelini de mümkün kılıyor: agent performansı zamanla insan onayı gerektirmeden kanıtlanmış geçmişiyle daha az gözetim altında çalışabiliyor, çünkü güven modele değil metodolojiye bağlı. Mühendisler için bu, hem regülasyona hazırlıklı hem de daha ucuz modellerle çalışabilen, ölçülebilir ve taşınabilir bir güvenlik agent'ı mimarisi anlamına geliyor.