Context Warp Drive: LLM'siz, Deterministik Bağlam Sıkıştırma

Context Warp Drive, uzun ajan konuşma geçmişlerini herhangi bir LLM çağrısı yapmadan sıkıştıran açık kaynaklı (MIT lisanslı) bir motor. Eski mesajları kesip atmak veya bir modele özetletmek yerine, önceki turları deterministik biçimde kompakt yapısal iskeletlere katlıyor; UUID, SHA, dosya yolu ve port gibi kritik kimlikleri bütçe puanlamalı bir "Coordinate Closet" içinde koruyor. Katlama çekirdeği tamamen CPU üzerinde çalışıyor, sıfır I/O ve sıfır bağımlılık içeriyor, aynı girdi için her zaman bayt-bayt aynı çıktıyı üretiyor.

Proje, Claude'un kendi kullanım defterinden alınan üretim verileri paylaşıyor: yaklaşık 110 dakikalık bir ajan oturumunda 954 araç çağrısı boyunca %92,6 önbellek-okuma isabet oranı, ayrıca yüzlerce turluk iki Opus iş yükünde %89,6 ve %93,2 önbellek-okuma oranları. Deterministik çevrimdışı bir kıyaslamada (tam o200k_base token sayımı, Sonnet liste fiyatlandırması), Context Warp Drive girdi maliyetini kayan pencere kesmeye göre %63, LLM özetlemeye göre %72 azaltırken, ekstra model çağrısı olmadan kritik gerçeklerin %94'ünü korudu; diğer iki yöntem yalnızca %44'te kaldı.

Mem0, Letta veya Zep/Graphiti gibi uzun vadeli bellek için çıkarım modelleri ve harici depolara dayanan daha kapsamlı çerçevelerin aksine, Context Warp Drive daha dar bir soruna odaklanıyor: tek bir uzun oturumu bayt-kararlı bir prompt-cache önekiyle bağlam penceresi altında tutmak. Uzun function-calling ajan döngüleri çalıştıran mühendisler için bu, model round-trip'i ve deterministik olmayan yeniden yazımları öngörülebilir, önbellek dostu bir sıkıştırma yoluyla değiştiriyor; bu yaklaşım uzun vadeli bellek sistemlerinin yerini almak yerine onları tamamlayabilir.