MakerChecker: AI Ajanları İçin Açık Kaynak Güvenlik Katmanı
MakerChecker, AI ajanlarının riskli eylemlerini tarayıp izin bazlı denetim ve imzalı kayıt zinciriyle güvence altına alan açık kaynak bir araç seti.
MakerChecker, LangChain, Claude SDK veya CrewAI gibi çerçevelerde çalışan AI ajanlarının önünde bir kontrol noktası, arkasında ise kriptografik olarak imzalanmış bir denetim kaydı oluşturan açık kaynaklı bir güvenlik katmanı. `mc scan` komutu, ajan kodunu tarayarak veri silme, para transferi, shell komutu çalıştırma veya gizli bilgi sızdırma gibi sonuç doğurabilecek eylemleri gerçek güvenlik olaylarıyla eşleştirip risk seviyesine göre sınıflandırıyor ve isteğe bağlı olarak yönetişim kodunu otomatik yazabiliyor.
Projenin çekirdeğinde 'deny-by-default' yaklaşımı var: ajanlar yalnızca kendilerine tanımlı rol üzerinden, yetkilendirilmiş yeteneklere erişebiliyor ve kritik işlemler ayrı bir role (örneğin bir risk masası veya tıbbi denetçi) yönlendirilerek ajanın kendi işini kendisinin onaylaması yapısal olarak engelleniyor. İsteğe bağlı olarak çalıştırılabilen sunucu bileşeni, Postgres tabanlı merkezi bir onay kutusu, inceleme konsolu ve Ed25519 ile imzalanıp hash-zincirlenmiş kalıcı denetim kaydı sunuyor; herhangi bir kayıt değiştirildiğinde doğrulama bozuluyor ve dışa aktarılan paketler çevrimdışı olarak bağımsızca doğrulanabiliyor.
Sistem, tarama (`mc scan`), gömülü yönetişim katmanı (`@makerchecker/embedded`) ve tam sunucu olmak üzere üç bağımsız pakete ayrılmış durumda; her biri aynı imzalı denetim formatını kullanıyor ve tek başına da benimsenebiliyor. LangChain ve Claude Agent SDK için hazır bağlayıcılar, ilaç güvenliği (pharmacovigilance), tıbbi cihaz şikayet triyajı ve nakit mutabakatı gibi yüksek riskli, insan onayı gerektiren gerçek dünya senaryolarında kullanılabilirlik sağlıyor. Bu yaklaşım, mühendislere ajan tabanlı otomasyonu üretime alırken yetki sınırlarını somut kod seviyesinde uygulama ve denetlenebilirlik açısından yasal/regülasyon gerekliliklerini karşılama imkânı sunuyor.