« Tüm yayınlar

USB'den Başlayan Bir LLM Çalışma Zamanı: NightRun

NightRun, USB'den başlatılan ve işletim sistemi gerektirmeyen bir LLM çalışma zamanı. Rust ile yazılmıştır.

NightRun, USB'den başlatılan ve geleneksel bir işletim sistemi olmadan çalışan bir LLM çalışma zamanı. Rust ile yazılmış olan bu uygulama, makinenizin firmware'i tarafından doğrudan başlatılır ve dil modeli tamamen RAM'e yüklenir. Bu, x86_64 PC'lerde ve Raspberry Pi 5'te çalışır.

Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz