GPU-Tile-SIM: LLM Donanım-Yazılım Ortak Tasarımı için GPU Simülasyonu
GPU-Tile-SIM, LLM iş yükleri için donanım-yazılım ortak tasarımında yüksek doğruluk sunan bir GPU simülasyon çerçevesidir.
Modern büyük dil modeli (LLM) iş yükleri, donanım-yazılım ortak tasarımı yoluyla optimize edilmiş GPU çekirdeklerine giderek daha fazla bağımlı hale geliyor. GPU-Tile-SIM, bu çekirdeklerin performansını artırmak için bağımlılık yapısını ve hesaplama ile bellek örtüşmesini dikkate alan bir simülasyon çerçevesi sunuyor. GTSim, A100 ve H100 üzerinde yapılan testlerde yüksek performans modelleme doğruluğu sağlıyor.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz