gateway

Foreman: Kendi Sunucunda Çalışan Maliyet Bilinçli LLM Gateway

Foreman, kodlama ajanları ile LLM sağlayıcıları arasında duran açık kaynaklı gateway; maliyete göre model seçip prompt cache'i korur, harcamaları kaydeder.