Temsili mühendislik ile token kullanımını azaltma

Caveman paketi, geliştiricilerin kodlama asistanlarından daha özlü yanıtlar almasını sağlamak için popülerlik kazanmıştır. Bu paket, belirli makaleleri ve gereksiz kelimeleri atlayarak çıktı token'larını %65 oranında azaltıyor. Yeni araştırmalar, aktivasyon yönlendirmesinin bu çıktıları daha da kısaltıp kısaltamayacağını inceliyor ve sonuçlar, yönlendirme ile birlikte verilen talimatların daha etkili olduğunu gösteriyor.