Temel Bir AI Ajanı Oluşturma: Güvenlik II
AI ajanı için güvenlik açıklarını kapatmak üzere Docker sandbox kullanımı ve prompt-injection savunmaları hakkında bilgi edinin.
Bu bölümde, AI ajanının güvenlik açıklarını kapatmaya odaklanıyoruz. Docker sandbox kullanarak, komutların yalnızca proje dizinine erişmesini sağlıyoruz. Ayrıca, prompt-injection savunmaları ekleyerek modelin araç çıktısını talimat olarak algılamasını engelliyoruz. Her araç girişi, çalıştırılmadan önce şemasına göre doğrulanacak.