torch-fx

vLLM'de Transformers Arka Ucu Artık Yerli Hıza Ulaştı

Transformers'ın vLLM modelleme arka ucu artık native implementasyonlarla aynı hızda; torch.fx ve ast ile otomatik kernel füzyonu sağlıyor.