Persistent State Machine'ler LLM Dikkatini FPGA Donanımına Taşıyor
LLM attention işlemini deterministik durum makinelerine dönüştüren PSM çerçevesi, Vivado ile sentezlenip 0.0267 pJ/op enerji tahmini elde etti.
Yeni bir araştırma, büyük dil modellerindeki attention (dikkat) işlemini, sabit bellek hücrelerine yayılan yerel deterministik durum geçişleriyle çalışan 'Persistent State Machine' (PSM) çerçevesi üzerinden yeniden formüle ediyor. Çalışma; kuantizasyon hata sınırları, sınırlı-logit varsayımı altında çok fazlı ayrık Softmax kurgusu, deterministik sonlu otomat (DFA) eşdeğerliği ve O(N) devre boyutuna uzamsal ayrıştırma için tam matematiksel ispatlar sunuyor.
İki fazlı bir motor -yerel skor hesaplama ve global maksimum çıkarımı ile yerel üstel arama içeren ikili ağaç indirgemesi- sentezlenebilir RTL olarak uygulanıp AMD Vivado 2026.1 akışından (sentez, yerleşim, yönlendirme, statik zamanlama analizi ve sentez sonrası güç kestirimi) Zynq-7000 xc7z020 hedefiyle geçirilmiş. Araç tahminine göre normalize dinamik enerji 283.8 MHz Fmax altında 0.0267 pJ/op olarak raporlanıyor; bin adetten fazla rastgele test vektörüyle yapılan fonksiyonel simülasyon, sabit noktalı Python referansıyla bit-eksact örtüşme gösteriyor.
Donanım tasarımı ve verimlilik odaklı mühendisler için önemli nokta, bu sonuçların fiziksel FPGA kartı üzerinde ölçülmemiş, tamamen Vivado araç kestirimleri olması ve sistem düzeyindeki bellek enerjisinin hesaba katılmamış olmasıdır. Yine de yaklaşım, LLM çıkarımını token-tabanlı yazılım hesaplamasından, deterministik durum makinelerine dayalı özel donanım mimarisine kaydırma potansiyeli taşıyor.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz