» Etiket
gateway
1 yayınForeman: Kendi Sunucunda Çalışan Maliyet Bilinçli LLM Gateway
Foreman, kodlama ajanları ile LLM sağlayıcıları arasında duran açık kaynaklı gateway; maliyete göre model seçip prompt cache'i korur, harcamaları kaydeder.
» Etiket
Foreman, kodlama ajanları ile LLM sağlayıcıları arasında duran açık kaynaklı gateway; maliyete göre model seçip prompt cache'i korur, harcamaları kaydeder.