gpu-inference

Tesla P100'ün llama.cpp'deki yıllık FP16 hatası 3 satırla çözüldü

llama.cpp'deki 3 satırlık CUDA yaması, Tesla P100'ün yıllardır süren gizli FP16 hassasiyet hatasını performans kaybı olmadan gideriyor.