freeq: API anahtarı yerine kimlikle sınırlı yapay zeka bütçesi

Çoklu ajan sistemlerinde sık karşılaşılan bir sorun var: birkaç yapay zeka ajanı bir insan adına model kapasitesi harcayacaksa, çoğu sağlayıcının sunduğu tek çözüm API anahtarını paylaşmaktır — bu hem riskli hem de hesap verilebilirlikten yoksundur. Kriptografik kimliğe dayanan IRC benzeri bir protokol olan freeq, harcama yetkisini bir sır yerine kimliğe bağlı, sınırlı ve geri alınabilir bir nesne olarak ele alarak bu boşluğu kapatıyor.

Protokolde imzalı bütçeler (kanal başına harcama limitleri ve adlandırılmış bir sponsor) ile imzalı kimlik (insanlar için DID'ler, ajanlar için sertifikalı anahtar çiftleri, aşağıya doğru daralan yetki zincirleri) zaten mevcuttu. Eksik olan şey uygulamaydı: bütçe sistemi bildirilen harcamaları titizlikle sayıyordu ama gerçek ücretli model çağrılarına hiç dokunmuyordu; bu çağrılar sağlayıcı anahtarını tutan denetimsiz bir proxy üzerinden geçiyordu.

Bu güncelleme iki sistemi birleştiriyor. Model çağrıları artık, çağıranın devir zincirini çözen, üst akış isteği yapılmadan önce kanal bütçesini kontrol eden ve bütçe tükendiğinde 402 döndüren OpenAI uyumlu bir uç noktadan geçiyor — sağlayıcıya hiçbir istek gitmiyor. Ücretlendirme, istemcinin iddiasına değil sağlayıcının gerçek token sayımına dayanıyor; fiyatlandırılmamış modeller ise bedava kullanımı önlemek için pahalı bir varsayılana düşüyor.

Çoklu ajan sistemleri geliştiren mühendisler için bu, kapasite devri için somut bir model sunuyor: erişimi geri almak, diğer tüm kullanıcıları bozan bir anahtar rotasyonu yerine bir bütçeyi düzenlemek kadar basit hale geliyor. Sponsor onayının henüz doğrulanmaması gibi eksikler hâlâ duruyor — herhangi biri kendi bütçesinin ödeyicisi olarak istediği bir DID'i belirtebiliyor.