Uygulama Ajan İzleri için Ucuz LLM'lerin Performans Testi
Uygulama ajan izleri için ucuz LLM'lerin performansını test ettik. Sonuçlar dikkat çekici.
Her müşteri izinden bir LLM çağrısı yaparak izleri kısa, aranabilir özetlere dönüştürüyoruz. Bu çağrı, maliyet açısından en hızlı büyüyen unsur haline geldi. Daha ucuz bir modelin bu işi yapıp yapamayacağını test ettik ve sonuçlar, Claude Sonnet 4.6'nın yerini alabilecek bir model bulduğumuzu gösterdi.