Uzun süreli ajan sistemlerinde bağlam yönetimi nasıl yapılır

Uzun süreli, çok ajanlı yapay zeka sistemlerinde ajanlar arasında tutarlılığı korumak, LLM API'lerinin durumsuz (stateless) doğası nedeniyle ciddi bir mühendislik problemi oluşturuyor. Karmaşık güvenlik soruşturmaları yüzlerce çıkarım isteğine yayılabildiğinden, her ajana soruşturma durumunun ona özel, dengeli bir görünümünü sunmak gerekiyor: çok az bağlam ajanları birbirinden kopuk bırakırken, çok fazla bağlam yaratıcılığı ve bağımsız değerlendirmeyi bastırıp doğrulama yanlılığına yol açabiliyor.

Bu sorunu çözmek için üç tamamlayıcı bağlam kanalı tasarlanmış: soruşturmayı yöneten Director ajanının yapılandırılmış çalışma belleği olan Journal, Critic'in bulguları güvenilirlik puanlarıyla değerlendirdiği Review, ve kronolojik bulguları konsolide eden Timeline. Journal; karar, gözlem, bulgu, soru, eylem ve hipotez olmak üzere altı farklı giriş türünü destekliyor, her giriş faz, tur numarası ve zaman damgasıyla etiketleniyor. Bu yapı, Director'ın soruşturmayı ilerletmesine, çıkmazları tespit etmesine ve rota düzeltmeleri yapmasına imkan tanıyor.

Gerçek bir soruşturmadan alınan örnekler, bir çekirdek modülü yükleme uyarısının aslında bir geliştiricinin paket kurulumu sırasında tetiklenen yanlış pozitif olduğunu gösteriyor. Journal kayıtları, Director'ın ilk şüpheden kesin sonuca (dört uzmanın da hemfikir olduğu yanlış pozitif tespiti) nasıl ilerlediğini adım adım ortaya koyuyor. Critic'in rolü ise uzmanların bulgularının kanıtlarla desteklendiğini ve yorumların sağlam olduğunu doğrulamak, çünkü dil modellerinin halüsinasyon üretme riski soruşturma güvenilirliğini tehdit ediyor.

Bu mimari, üretim ortamındaki çok ajanlı yapay zeka sistemleri tasarlayan mühendisler için önemli bir referans sunuyor: bağlam penceresi sınırlarını yönetirken ajan uyumunu nasıl koruyacağına dair somut, test edilmiş bir yaklaşım.