Camelid: Rust ile Yerel AI Çıkarımı için Çoklu Arayüzler
Camelid, Rust ile yerel AI çıkarımı yapmanızı sağlayan çoklu arayüzler sunar. GGUF modelleri ile çalışır.
Camelid, yerel bir web arayüzü sunarak GGUF modellerini doğrudan donanımınızda çalıştırmanıza olanak tanır. Tek bir Rust ikili dosyası ile çalışan bu sistem, Python veya Docker gerektirmeden, masaüstü uygulaması, tarayıcı sohbeti ve HTTP API gibi çeşitli arayüzler sunar. Yerel çalışma, kullanıcıların verilerini güvende tutarken, donanım hızlandırma ile performansı artırır.