PrismML, 27B Bonsai'yi Duyurdu: 1-Bit ve Ternary Modeller

PrismML, 27B Bonsai modelini tanıttı. Bu model, 1-bit ve ternary yapılarla Qwen3.6-27B'yi kullanarak, dizüstü bilgisayarlar ve telefonlar üzerinde verimli bir şekilde çalışıyor. Geleneksel düşük bitli yapılar yerine, ağırlıklar kodlar haline getiriliyor ve bu sayede modelin boyutu önemli ölçüde azaltılıyor. Ternary yapı, FP16'nın %94.6'sını sunarak 5.9GB'lık bir hafıza kullanırken, 1-bit yapı ise %89.5 performansla 3.9GB hafıza gerektiriyor.