Tarayıcıda Modern LLM'leri Çalıştırmak: Three.js ve WebGPU
Three-LLM, tarayıcıda GPT-2 ve diğer modelleri çalıştırmak için Three.js ve WebGPU kullanıyor.
Three-LLM, GPT-2, SmolLM2, Qwen ve Phi modellerini tarayıcıda yerel olarak çalıştırıyor. Bu proje, Three.js ve WebGPU'nun genel hesaplama yeteneklerini test etmek için geliştirildi. Modeller, 3 milyon parametreli hikaye üreticisinden 800 milyon parametreli modern sohbet modeline kadar uzanıyor. Three.js, yalnızca bir görüntüleme kütüphanesi olmanın ötesinde, dil modellerinin gereksinimlerini karşılamak için gerekli hesaplama yeteneklerini sunuyor.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz