» Etiket
llama.cpp
13 yayınNilaMind: Cihaz Üzerinde Çalışan 1.5B Parametreli Ruh Sağlığı LLM'i
NilaMind, Qwen2.5-1.5B modelini llama.cpp ile Android'de tamamen çevrimdışı çalıştırıyor; kriz güvenliği model dışı deterministik bir katmanda.
Yerel Modeller için GBNF Gramer Desteği Eklendi
Yerel modellerde GBNF gramer desteği eklendi. Çıktıları kesin biçimde kontrol etme imkanı sunuyor.
llama.cpp'de DFlash: Qwen 3.6 27B'de 4.44 kat hız artışı
llama.cpp'ye eklenen DFlash, blok difüzyon tabanlı draft modeliyle Qwen 3.6 27B'de bağlam uzadıkça hızı artırıyor; 36K bağlamda 4.44 kat, kalite kaybı yok denecek kadar az.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com