Yerel LLM'inizi CPU'ya düşerken yakalayın
Picchio, yerel LLM kurulumunuzu kontrol eden bir Python dosyasıdır. GPU'nun gerçekten çalışıp çalışmadığını gösterir.
Picchio, yerel LLM kurulumlarını kontrol eden bir Python dosyasıdır. Bu araç, GPU'nun gerçekten çalışıp çalışmadığını ve hangi hızda işlem yaptığını belirlemek için tasarlanmıştır. Kullanıcılar, model dosyalarını analiz ederek, GPU ve CPU arasındaki performans farklarını görebilirler.