» Etiket
llm
423 yayınAI Çıkarım Mühendisliği: Prefill ve Decode Ayrımının Anatomisi
LLM çıkarımının prefill ve decode aşamaları, GPU darboğazları ve batching, prefix caching gibi optimizasyon teknikleri mühendislik perspektifiyle ele alınıyor.
Ajan İzlerini Okumak: Eval'in Veremeyeceği Kararı Verdirir
AI Engineer World's Fair için geliştirilen bir ajan olmayan konuşmacılar uydurdu. Bunu eval değil, agent trace'lerini okumak ortaya çıkardı; mühendisler için model, maliyet ve gözlemlenebilirlik dersleri.
MakerChecker: AI Ajanları İçin Açık Kaynak Güvenlik Katmanı
MakerChecker, AI ajanlarının riskli eylemlerini tarayıp izin bazlı denetim ve imzalı kayıt zinciriyle güvence altına alan açık kaynak bir araç seti.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com