Governed Agent: LLM metni okur, kod ve kurallar karar verir

Governed Agent, LLM'lerin görev bazlı ince ayarına (fine-tuning) alternatif olarak sunulan açık kaynaklı bir mimari örneği. Sabit adımlardan oluşan deterministik bir orkestratör, serbest metni yalnızca iki noktada yapılandırılmış alanlara dönüştürmesi için LLM'e yönlendiriyor; model kimlik bilgilerini olduğu gibi kopyalıyor ve sistem/standart gibi alanları sabit tablo sözlüğüyle eşleştiriyor. Her yanıt koda karşı doğrulanmadan güvenilmiyor ve nihai karar tamamen tablo ve kod mantığıyla veriliyor.

Projede ITIL değişiklik yönetimi örnek senaryo olarak kullanılıyor: bir metin talebi kimlik, kapsam, yetki, değişiklik tipi, risk ve sözleşme adımlarından geçerek beş sonuçtan (otomatik onay, istemci onayı, sağlayıcı eskalasyonu, insana yönlendirme, ret) birine bağlanıyor. Kanıt tablosu modele hiç verilmediği için model kanıt uyduramıyor.

Mühendisler için önemi, config (adımlar, tablolar) ile veriyi (talep, log) ayıran, LLM'i durumsuz ve değiştirilebilir tutan, her istek için hash-zincirli, kurcalamaya dayanıklı log tutan yeniden kullanılabilir bir desen sunması. Bu yaklaşım, iyi tanımlanmış vakalarda maliyetli model eğitimi yerine denetlenebilir, deterministik bir alternatif öneriyor.