Yapay Zeka Her Katmanda Yeniden Şekilleniyor: Mikrodenetleyiciden Çekirdeğe Mühendislik Atılımları
Bu dönemin en çarpıcı gelişmesi, 8 dolarlık ESP32-S3 mikrodenetleyicisinde 28,9 milyon parametreli bir dil modelinin çalıştırılması oldu. Google'ın Gemma modellerinden uyarlanan Katman Başına Gömme tekniği sayesinde model, gömme tablosunu flash bellekte tutarak saniyede yaklaşık 9 token üretiyor. Bu, aynı sınıf çiplerde daha önce görülenin yaklaşık yüz katı büyüklüğünde bir model ve internet bağlantısı gerektirmeden tamamen cihaz üzerinde çalışıyor.
Yapay zeka altyapısında maliyet optimizasyonu da öne çıktı. Bir ekip, DeepSeek V4 Flash modelini AWS spot instance'larda kendi sunucularında barındırarak ücretsiz kullanım katmanını negatif kâr marjı olmadan sunmayı başardı. Mixture-of-experts mimarisi ve MXFP4 kuantizasyonu sayesinde 284 milyar parametrelik model, disk boyutu 150 GB'a düşürülerek NVIDIA RTX PRO 6000 GPU'larında çalıştırılabilir hale geldi.
AI kodlama ajanlarının yönetimi için iki önemli araç ortaya çıktı. Loom, paralel çalışan ajanların aynı dosyalar üzerinde çakışan değişiklikler yapmasını önlemek için git worktree'ler üzerinde bir koordinasyon katmanı sunuyor. @ttsc/graph ise TypeScript derleyicisinin kendisinden gelen bildirim ve ilişki grafiğiyle ajanların token kullanımını temel senaryonun yüzde dördüne kadar düşürebiliyor.
Güvenlik cephesinde, Epistemic Engine git geçmişinden kodu gerekçelendirilmiş iddialar bütünü olarak modelleyerek AI tarafından üretilen değişiklikleri denetliyor. Daha da ileri giden bir araştırma prototipi, AI ajan güvenlik politikalarını eBPF-LSM kancalarıyla doğrudan çekirdek seviyesinde uyguluyor; prompt injection ile ele geçirilen bir ajanın kendi izin listesini atlatması böylece engelleniyor.
Raft ekibi, çok-ajanlı çalışma alanlarında ajanların "çevresel görüş" eksikliğini keşfederek bildirim mimarisini yeniden tasarladı. Ajanların ilgisiz mesajları görmezden gelirken bile hesaplama maliyeti ödediğini fark eden ekip, klasik bir önbellek tasarımıyla bu sorunu çözdü. Bu arada SAGA, üretken AI ile oluşturulan videoların hangi modelle üretildiğini beş farklı seviyede tespit eden ilk kapsamlı çerçeve olarak sunuldu.
» İstatistikler
- Yayın
- 34
- Okunma
- 1
- Ort. puan
- 7.8
» En çok okunan
- DeepSeek V4 Flash'ı AWS Spot Instance'larda Kendi Sunucularımızda Barındırıyoruz
- Open Dreamer: JAX/Flax ile Dreamer 4 Dünya Modeli Yeniden Üretimi
- Sürekli Durum Makinesi: LLM Dikkati için Bellek Duvarını Aşmak
- 8 Dolarlık Mikrodenetleyicide 28,9 Milyon Parametreli LLM
- Wpcapng – Web için Wireshark
- Yüksek Performanslı Rust Profili Oluşturma Deneyimleri
- Microcharts - 106 Küçük React Grafiği, Metin İçine Sığar
- Eski Riot ve Respawn tasarımcısından oyun sistemleri el kitabı
- SAGA: Videoyu Hangi Yapay Zeka Modelinin Ürettiğini Tespit Ediyor
- Epistemic Engine: AI kodunu doğrulayan ve riskleri öngören araç
» En yüksek puan
- Veritabanını Tersyüz Etmek: Kleppmann'ın Samza Konuşması (2015)
- 11 Yapay Zeka Alt Ajanıyla Claude Code PPTX Yeteneklerini Test Ettim
- Raft, Ajanlar İçin Bildirim Mimarisini Neden Yeniden Tasarladı
- 8 Dolarlık Mikrodenetleyicide 28,9 Milyon Parametreli LLM
- @ttsc/graph: TypeScript Derleyicisinden AI Ajanları için Kod Grafiği
- DeepSeek V4 Flash'ı AWS Spot Instance'larda Kendi Sunucularımızda Barındırıyoruz
- SAGA: Videoyu Hangi Yapay Zeka Modelinin Ürettiğini Tespit Ediyor
- Epistemic Engine: AI kodunu doğrulayan ve riskleri öngören araç
- Loom: AI Kodlama Ajanları İçin Git Üzerine Kurulu Koordinasyon Katmanı
- Otonom AI Ajanları için Çekirdek Seviyesinde Denetim: eBPF-LSM + Z3