Jalapeño: LLM'lerin Çip Tasarımındaki Gücünü Gösteriyor
OpenAI'nin Jalapeño çipi, LLM'lerle hızlandırılan çip tasarımının gücünü sergiliyor.
OpenAI, Jalapeño adlı AI hızlandırıcı çipini tanıttı. Bu çip, 13.4 petaflop 4-bit hesaplama gücü sunuyor ve 232 gigabayt yüksek bellek erişimi sağlıyor. Jalapeño, Nvidia'nın GB300 çipine kıyasla end-to-end gecikmeyi 3.6 kat azaltabiliyor. Tasarım süreci, OpenAI'nin büyük dil modelleri tarafından hızlandırıldı ve çip, ilk mimari konseptten ilk silikona 20 ay içinde tamamlandı.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz