Headroom: AI Ajanlarının Bağlam Verisini %95'e Kadar Sıkıştıran Açık Kaynak Araç
Headroom, AI ajanlarının gördüğü tool çıktılarını %55-95 oranında sıkıştıran açık kaynak kütüphane; kayıpsız, proxy destekli, GitHub'da 59K yıldız.
Headroom, LLM tabanlı ajanlarla model arasına giren açık kaynaklı bir sıkıştırma katmanı. Araç, kod arama sonuçları, git logları, JSON çıktıları ve dosya içerikleri gibi büyük tool çıktılarını modele ulaşmadan önce sıkıştırarak token tüketimini azaltıyor. GitHub'da 59.000'in üzerinde yıldıza sahip proje, topluluk verilerine göre şimdiye kadar 41,8 milyar token ve yaklaşık 176.600 dolar maliyet tasarrufu sağlamış durumda.
Bağımsız bir testte 500 kayıtlık bir JSON çıktısı (yaklaşık 18.500 token) Headroom ile işlendiğinde token sayısı 8.300'e, yani %55 oranında düşürüldü. Araç, içerik tipini otomatik tespit eden bir yönlendirici (Magika tabanlı), JSON için istatistiksel bir sıkıştırıcı (SmartCrusher), kod için AST-farkında bir sıkıştırıcı ve düz metin için bir HuggingFace modeli kullanıyor. Sıkıştırma kayıpsız: orijinal veriler saklanıyor ve gerektiğinde bir retrieval aracıyla geri çağrılabiliyor.
Bu tür sıkıştırma katmanları, ajan tabanlı iş akışlarında bağlam penceresinin büyük kısmının ham veri yüklemeye harcandığı bir sorunu doğrudan hedefliyor. Proxy modu sayesinde mevcut ajan kurulumuna kod değişikliği yapmadan entegre edilebiliyor; Python/TypeScript kütüphane modu ise tek fonksiyon çağrısıyla mesaj dizilerini sıkıştırıyor. Küçük veri parçalarında (1.000 karakter altı) anlamlı bir kazanç sağlamadığı ve kurulumun ağır bağımlılıklar (transformers, sentence-transformers, OpenCV vb.) gerektirdiği belirtiliyor.