Tek Prompt Yerine Ajanik İş Akışları: LLM Kalitesini Artırma Rehberi
Chatbot benzeri tek prompt yaklaşımı yerine, LLM'lerde yansıma, araç kullanımı ve çoklu ajan devri gibi ajanik iş akışı desenleriyle daha güvenilir sonuçlar elde etme rehberi.
Çoğu geliştirici LLM tabanlı uygulamalara kullanıcı girdisini bir sistem promptuna sarıp modele gönderen basit 'wrapper' yapılarıyla başlıyor. Sonuç hatalıysa çözüm genellikle prompta daha fazla talimat eklemek oluyor; ancak bu yöntem karmaşık görevlerde tıkanıyor çünkü LLM'ler tek geçişte adım atlıyor, halüsinasyon görüyor ve kendi çıktısını denetleyemiyor.
Bunun yerine önerilen yaklaşım, görevi tek bir uzun promptla değil, planlama, uygulama, eleştiri ve düzeltme adımlarından oluşan yinelemeli bir döngüyle çözmek. Üç somut desen öne çıkıyor: Yansıma (Reflection) deseninde model kendi çıktısını eleştirip yeniden üretiyor; Araç Kullanım Döngüsü (ReAct) deseninde model düşünüp bir araç çağırıyor, sonucu gözlemleyip devam ediyor, böylece tahmin yerine gerçek veriye dayanıyor; Çoklu Ajan Devri deseninde ise büyük bir görev bir 'Yönetici' ajan tarafından alt görevlere bölünüp uzman 'Çalışan' ajanlara dağıtılıyor.
Bu yapıya geçişin getirdiği asıl zorluk durum (state) yönetimi. Basit bir sohbet geçmişi yerine; orijinal hedefi, plandaki mevcut adımı, araç çağrı geçmişini ve en son eleştiriyi tutan yapılandırılmış bir durum nesnesi (örneğin JSON tabanlı) kullanmak, token maliyetlerinin patlamasını ve modelin hedefi kaybetmesini önlüyor. Mühendisler için pratik çıkarım net: mükemmel prompt aramak yerine, görevi taslak üretme ve eleştirme olmak üzere iki adıma bölüp eleştiriyi ikinci geçişe geri beslemek, kalitede en büyük sıçramayı sağlıyor.