ActionRail: Yapay Zeka Ajanları için Çalışma Zamanı Doğrulama Katmanı

ToolJet'in açık kaynaklı projesi ActionRail, yapay zeka ajanlarının araç çağrılarını çalıştırmadan önce canlı sistem verileriyle karşılaştırarak doğrulayan bir çalışma zamanı çerçevesi sunuyor. Mevcut izin listesi ve şema kontrolleri bir çağrının biçimsel olarak doğru olup olmadığını denetlerken, ActionRail argümanların gerçek veriye göre doğru olup olmadığını sorguluyor; örneğin zaten iade edilmiş bir siparişe tekrar iade yapılması gibi durumları engelliyor.

Araç, izin/insan onayı bekletme/engelle kararını dönen bir karar hattı çalıştırıyor; politika kontrolleri en ucuz maliyetli katmandan başlayarak SQLite, PostgreSQL, MySQL, HTTP/REST ve MCP kaynaklarına karşı doğrulama yapıyor. Kimlik bilgileri ve sorgular müşteri ortamında kalıyor, kontrol düzlemine ulaşmıyor.

Projenin kamuya açık beta sürümü şu anda kullanılabilir; framework-bağımsız Python SDK'sı ve LangGraph için otomatik araç keşfi/sarmalama desteği mevcut. Sekiz modelde yapılan kırmızı takım testlerinde, korumasız ajanlar değer zehirleme saldırılarına karşı %1.7 ila %63.3 oranında başarıyla manipüle edilirken, ActionRail devrede olduğunda 480 kötü niyetli eylemden hiçbiri çalıştırılmadı ve 480 meşru istekten hiçbiri yanlışlıkla engellenmedi.

Mühendisler için önemi: Bu, geleneksel yetkilendirme motorlarının (OPA, Cedar gibi) kapatamadığı bir boşluğu dolduruyor — çağrı anında gerçek veriye karşı değer doğrulaması yapan bir 'son mil' doğruluk kapısı sağlıyor.