Mojo ile Metal Kernellerle Llm.c Portu: PyTorch MPS'ten 1.72x Daha Hızlı
Mojo ile llm.c'nin Metal çekirdeklerine taşınması, PyTorch MPS'ten 1.72x daha hızlı sonuçlar sunuyor.
Andrej Karpathy'nin llm.c'sinin Mojo'ya taşınması, GPU çekirdeklerinin performansını artırarak önemli sonuçlar elde etti. NVIDIA GB10 üzerinde, llm.c'nin CUDA yolunu eşitlerken, Apple M4 Max üzerinde PyTorch MPS bf16'ya göre 1.71 kat daha hızlı çalışıyor. Bu proje, düşük hassasiyetli eğitim için FP8 ve NVFP4 desteği ekleyerek mühendisler için daha verimli bir çözüm sunuyor.