» Etiket
memory
53 yayınYerel LLM'lere sıfıra yakın maliyetli deterministik hafıza katmanı
Açık kaynaklı deterministik hafıza katmanı, dondurulmuş LLM'lere bağlanıp bağlam dışı gerçekleri sıfıra yakın maliyetle hatırlıyor.
Rust'ta Yerinde Başlatmanın Dört Seviyesi
Rust'ta yerinde başlatma, bellek verimliliğini artırabilir. Dört seviyeli hiyerarşi ile türlerin inşası hakkında bilgi edinin.
Sürekli Durum Makinesi: LLM Dikkati için Bellek Duvarını Aşmak
Sürekli Durum Makinesi, LLM'lerde bellek duvarını aşarak enerji ve veri trafiğini azaltıyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comBüyük Sayfalar PostgreSQL Performansını Artırabilir
Büyük sayfalar, PostgreSQL'de bellek yönetimini optimize ederek performansı artırabilir.
Genesys: AI Ajanları için Açık Kaynaklı Neden-Grafı Belleği
Genesys, AI bellek yönetimi için neden-grafı ve skorlama motoru sunan açık kaynaklı bir projedir.
Uzun Bağlam Sıkıştırması için Trie Tabanlı Bellek Verimliliği
SALT, uzun belgeleri sıkıştırarak dil modellerine gönderir, bellek ve işlem süresini azaltır.
Clang: Donanım Destekli AddressSanitizer Tasarım Dokümanı
HWASAN, bellek güvenliği için donanım destekli bir araçtır. AArch64 ve x86_64 mimarileri için tasarım detayları sunar.
Yapay Zeka Ajanları için Kalıcı Bellek ve Durum Mimari Modelleri
Yapay zeka ajanları için kalıcı bellek ve durum yönetimi üzerine beş mimari model keşfedin.
Kod Olmadan Koruma Olmaz: LLM'nin APFS'yi Nasıl Kötüleştirdiği
Mac Mini'deki yerel LLM sunucusu, dolu disk nedeniyle APFS'yi bozdu. Çözüm kod düzeyinde bir engel ve kontrol listesi oluşturmaktı.
Yapay Zeka Ajan Altyapısı Durum Katmanında Ayrışıyor
Yapay zeka ajan altyapısı, durum katmanı ile ikiye ayrılıyor. Bu katman, ajanın iş kayıtlarını yönetiyor.