State-harness: LLM ajanlarında kararsızlığı kontrol teorisiyle yakalar
Açık kaynak state-harness kütüphanesi, Lyapunov enerji fonksiyonuyla çok turlu LLM ajanlarındaki token sarmallarını ek LLM çağrısı yapmadan tespit edip nedenini raporluyor.
State-harness, çok turlu LLM ajan döngülerini izleyen Python tabanlı bir kütüphane olarak sunuluyor. Token tüketimini bir ısınma (warmup) taban çizgisine göre değerlendiren Lyapunov enerji fonksiyonu kullanarak; bağlam birikim sarmalı, tekrar fırtınası, politika sapması ve erken patlama gibi kalıpları ek LLM çağrısı yapmadan, sadece token trafiğinden sınıflandırıyor. Bir eşik aşıldığında sistem devreyi keserek nedeni, kanıtı ve önerilen düzeltmeleri (geçmiş sıkıştırma, eşik düşürme, kayan pencere bağlamı gibi) raporluyor.
Araç, klasik bütçe tavanlarının aksine çözüm oranını artırmıyor; kendi ölçümlerine göre naif bir token bütçesi de benzer görev başarısı sağlıyor. Asıl değeri, arıza teşhisinde ve arama ağacı tabanlı ajanlarda (MCTS, beam search) ölü uçları erken keserek hesaplama tasarrufu sağlamakta yatıyor; SWE-bench üzerinde daha az arama düğümü ve daha kısa çalışma süresi bildiriliyor. 3.175 çalıştırma ve 7 modelde sıfır yanlış pozitif iddiasıyla doğrulandığı belirtiliyor.
Kütüphane LangGraph, CrewAI ve vanilya Python döngüleri için hazır adaptörler, ayrıca OpenTelemetry uyumlu dışa aktarım sunuyor. Platform ölçeğinde çalışan ekipler ve arama ağacı tabanlı ajan geliştiricileri için anlamlı olsa da, chatbot, RAG veya kısa ReAct döngüleri gibi basit senaryolarda standart max_iterations ve bütçe tavanının yeterli olduğu vurgulanıyor.