GPU-Tile-SIM: LLM Donanım-Yazılım Ortak Tasarımı için GPU Simülasyonu
GPU-Tile-SIM, LLM iş yükleri için donanım-yazılım ortak tasarımında yüksek doğruluk sunan bir GPU simülasyon çerçevesidir.
Modern büyük dil modeli (LLM) iş yükleri, donanım-yazılım ortak tasarımı yoluyla optimize edilmiş GPU çekirdeklerine giderek daha fazla bağımlı hale geliyor. GPU-Tile-SIM, bu çekirdeklerin performansını artırmak için bağımlılık yapısını ve hesaplama ile bellek örtüşmesini dikkate alan bir simülasyon çerçevesi sunuyor. GTSim, A100 ve H100 üzerinde yapılan testlerde yüksek performans modelleme doğruluğu sağlıyor.