» Etiket
rust
2 yayınShoehorn: LLM'leri Mac'in VRAM'ına Tam Oturacak Şekilde Kuantalıyor
Shoehorn, BF16 GGUF LLM modellerini Mac'inizin kullanılabilir VRAM'ına tam oturacak şekilde tensor başına kuantalayan açık kaynaklı bir Rust CLI aracıdır.
Çift mimarili AI işletim sistemim QEMU, VirtualBox ve gerçek UEFI donanımında çalışıyor
Rust ile sıfırdan geliştirilen çift mimarili AI işletim sistemi, QEMU ve gerçek UEFI donanımında çalışıyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com