» Etiket
on-device-ai
4 yayın120B parametreli LLM, expert akışıyla Android telefonda çalışıyor
Açık kaynaklı bir Android uygulaması, MoE uzmanlarını flash depodan akıtarak 120B parametreli LLM'i telefon CPU'sunda çalıştırıyor, 30B modeller kullanılabilir hızda.
Apple SpeechAnalyzer, Whisper ve eski API'yi WER testinde geride bıraktı
Apple'ın SpeechAnalyzer API'si LibriSpeech testinde Whisper Small ve eski SFSpeechRecognizer'ı doğruluk ve hızda geride bıraktı.
LFM2.5 ile Tamamen Tarayıcıda Çalışan Araç Kullanan LLM Ajanı
LiquidAI LFM2.5 tabanlı, tamamen tarayıcıda çalışan araç kullanan bir LLM ajanı; sunucu yok, API anahtarı yok, sıfır bulut maliyeti.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comNilaMind: Cihaz Üzerinde Çalışan 1.5B Parametreli Ruh Sağlığı LLM'i
NilaMind, Qwen2.5-1.5B modelini llama.cpp ile Android'de tamamen çevrimdışı çalıştırıyor; kriz güvenliği model dışı deterministik bir katmanda.