Bonsai 27B, iPhone'da Yerel Olarak Çalışıyor - 3.9GB Boyutunda
Bonsai 27B modeli, iPhone'da çalışacak şekilde 1-bit kuantizasyon ile geliştirildi.
PrismML, Bonsai modelini Qwen3.6-27B üzerine inşa ederek ağırlıkları 1 bite kuantize etti. Bu işlem modeli 54GB'dan 3.9GB'a düşürdü ve böylece bir telefonda çalıştırılabilir hale geldi. Model, benchmark puanlarının %90'ını korurken, 15 benchmarkta ortalama 76.1 puan alıyor.