Ajan Türeten Ajanlar: İyi Niyetli Bir Fork Bomb Riski
Çok ajanlı LLM orkestrasyonunda sınırsız türetme neden fork bomb riski taşır ve derinlik, genişlik, maliyet, ayrıcalık sınırlarıyla nasıl güvenli hale getirilir.
Çok ajanlı orkestrasyonun cazip vaadi şu: bir ajana büyük bir görev verirsin, o da araştırma, paralel implementasyon ve inceleme için alt ajanlar türetir. Ancak bir ajan alt ajan türetebiliyorsa, o alt ajanların da aynısını yapabilmesini engelleyen hiçbir şey yoksa, elinizde klasik Unix fork bomb'unun (:(){ :|:& };:) LLM ve API faturasıyla süslenmiş hali var demektir.
Sorun çok ajanlı mimarinin kendisi değil, sınırsız türetme yetkisi. Anthropic'in kendi rehberliği bile alt ajanların maliyetli olabileceğini vurguluyor; kafası karışan bir ebeveyn ajan on iki çocuk türetip her biri on iki tane daha türetirse fatura hızla kontrolden çıkar. Doğru yaklaşım 'hiç türetme' değil, türetmeyi ölçülü bir ayrıcalığa dönüştürmek.
Bunun için dört sınır öneriliyor: çoğu ajanın türetme aracından tamamen mahrum bırakıldığı rol tabanlı yapraklar (executor), her özyinelemeli türetmede yalnızca küçülebilen bir derinlik tavanı (maxDepth), her düğümde eşzamanlı çocuk sayısını sınırlayan bir genişlik tavanı (maxChildren) artı katı bir dolar tavanı (maxCostUsd), ve son olarak hiçbir çocuğun ebeveyninden daha ayrıcalıklı olamayacağını garanti eden bir ayrıcalık hiyerarşisi. Bu dört kural birlikte, en kötü senaryonun bile önceden hesaplanabilir olmasını sağlıyor.
Agentproto örneği üzerinden somutlaşan bu yaklaşım, OWASP Agentic Top 10'un 'en az yetki' ilkesiyle örtüşüyor: bir ajana yalnızca görevinin gerektirdiği kadar özerklik verilmeli, gerisi değil.