» Etiket
context-window
2 yayınYapay Zeka Ajanları Neden Unutur: Bellek Tasarım Sorunu
LLM API'leri durumsuzdur; her istek bağımsızdır ve bağlam penceresi gerçek bellek değildir. Bu mimari tercih, üretimde maliyet, gecikme ve tutarsızlık sorunlarına yol açar.
ai-agentsllmmemorycontext-windowHaritalama Araçlarında LLM Yükünü Azaltan Katman Deseni
RidgeText, GeoJSON verisini doğrudan LLM'e göndermek yerine sunucu tarafında katman kuyruğu tutarak bağlam maliyetini 125.000 token'dan yaklaşık 150 token'a indiriyor.
llmgeojsonmapboxtool-calling