« Tüm yayınlar

Bernstein 2.16: Çıktı Ekonomisi ve Güvenli Özetleme Paketi

Bernstein 2.16: rol bazlı maliyet izleme, maliyet-kalite A/B testi, güvenli bağlam sıkıştırma ve şema zorunlu tamamlama çıktıları.

Bernstein'ın 2.16 sürümü, tek ajan yerine onlarca ajanı aynı anda çalıştıran ekiplerin karşılaştığı somut sorunlara odaklanıyor: harcamayı kaleme dökülmüş tek bir fatura yerine rol bazında izleyebilme, ucuz-model tercihinin kaliteyi nasıl etkilediğini ölçebilme ve uzun görevlerde bağlam özetlemesinin sessizce kritik bilgiyi silmemesini garanti altına alma.

Yeni 'çıktı ekonomisi' paketi dört parçadan oluşuyor: her rol için ayrı ayrıntı seviyesi (response-style) tanımlama, maliyet defterinde bu profillere göre kırılım alma, aynı görevi ucuz/dengeli/kapsamlı model kombinasyonlarıyla çalıştırıp maliyet-kalite karşılaştırması yapan bir A/B test aracı ve operatör onayı olmadan hiçbir rol şablonunun otomatik sıkıştırılmadığı kontrollü bir optimizasyon mekanizması.

Güvenlik tarafında ise iki yeni koruma var: bağlam sıkıştırması artık taşma anında değil, önceden ve doğrulanabilir biçimde yapılıyor, her sıkıştırma imzalı bir kayıt bırakıyor. Ayrıca modele gönderilen özetler artık kimlik bilgisi biçimindeki içerik için taranıyor ve şüpheli örüntüler gönderim öncesi maskeleniyor. Son olarak worker tamamlama çıktıları artık şema zorunlu hale geldi; bir görevin reddedilmesi artık belirsiz düzyazı değil, tipi belirlenmiş bir sonuç olarak dönüyor.