Otonom ajanlarda iki büyük korku: kontrolsüz döngüler ve açık API'ler
rysh'in döngü mühendisliği ve Forge özellikleri, otonom ajanlardaki kontrolsüz döngü ve API erişim risklerine somut çözümler sunuyor.
Otonom ajan sistemleri kuran ekiplerin en sık dile getirdiği iki endişe var: hedefi verilen bir ajanın bütçeyi tüketene kadar durmadan dönmesi ve iç API'lere erişim vermek için güvenlik ekiplerinin haklı olarak itiraz ettiği 'endpoint'i dışarı aç' çözümleri. rysh adlı ajan destekli terminal çoklayıcısı, bu iki soruna somut mühendislik cevapları getiriyor.
İlk kısım, 'döngü mühendisliği' olarak tanımlanan bir yaklaşıma odaklanıyor: otomasyonlar kayıtlı tarif dosyaları olarak saklanıyor ve token bütçesi, iterasyon sınırı, süre sınırı gibi sert tavanlarla çalıştırılıyor. Döngü sadece adım sayısını değil, bir yargıç adımıyla hedefin gerçekten karşılanıp karşılanmadığını değerlendiriyor. Bütçenin belirli bir yüzdesi tükendiğinde ise ajan aniden durmuyor; önceden yazılmış bir 'devir teslim' istemi devreye girip yarım kalan işi düzgünce sonlandırıyor, kontrol noktalarından devam edilebiliyor ve cron ile zamanlanabiliyor.
Bu tarifler markdown dosyaları olarak repo içinde versiyonlanabiliyor; iç içe iki döngü yapısı -bir oturumluk 'do' döngüsü ve hedef sağlanana kadar tekrar eden 'while' döngüsü- güvenlik özelliklerini hedefin yanına açıkça yazıyor. Yazar, ajan döngülerindeki asıl mühendisliğin döngünün kendisi değil frenler olduğunu savunuyor: bütçeler, yargıçlar, devir teslim koşulları ve kontrol noktaları.
İkinci bölüm ise erişim problemine değiniyor: iç API'lerin dışarıya açılmadan, kimlik bilgileri dağıtılmadan ajanlar tarafından çağrılabilmesini sağlayan Forge adlı bir mekanizma tanıtılıyor; ayrıntılar kaynak metinde devam ediyor.