» Etiket
llm
16 yayınFine-tuning Yok: Gerçekler Doğrudan Llama-3.1-8B Ağırlıklarına Elle Kodlandı
Llama-3.1-8B'ye fine-tuning, LoRA veya RAG olmadan, elle kodlanmış nöron devreleriyle gerçek ekleyen mekanistik yorumlanabilirlik projesi ve canlı görselleştirici.
LLM İzlerini Kümelemek İçin LLM Gerekmiyor: Seldon'ın Trace Audit'i
Seldon'ın Trace Audit'i, LLM kullanmadan deterministik özellikler ve DBSCAN ile LLM izlerini aynı program kümelerine ayırıyor; sonuç neredeyse mükemmel doğruluk.
Kimi K3 testi: Çin modelleri kodlamada ucuz, planlamada değil
Kimi K3 benchmark testinde Çin yapay zeka modelleri planlamada pahalı, kodlamada ise 19 kat daha ucuz çıktı. Gerçek maliyet analizi.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comAjan Tabanlı Yazılım Mühendisliği: Spec Yetmez, Mimari Kayboluyor
Kodlama ajanlarının asıl zayıflığı kod üretimi değil; mimari hafıza kaybı ve spec-driven development'ın sınırları üzerine mühendislik analizi.
Elpis: LLM Ajanları İçin Bağlam Budamalı Rust Terminal Kabuğu
Elpis, Rust ve Ratatui ile yazılmış, LLM ajanları için bağlam budama ve kalıcı hafıza sunan açık kaynak terminal ajan kabuğu.
Gigatoken: Rust BPE Tokenizer 24.53 GB/s'e Ulaştı, 989 Kat Hızlandı
Rust tabanlı Gigatoken, regex yerine SWAR ve dual-cursor teknikleriyle BPE tokenizasyonda 24.53 GB/s hıza ulaşarak HuggingFace tokenizers'ı geride bırakıyor.
Claude Science İncelemesi: Daemon Tabanlı Ajan Mimarisi
Claude Science'ın daemon tabanlı host RPC mimarisi, kernel-daemon yetki ayrımı ve ajan harness tasarımı üzerine teknik inceleme.
Netflix, LLM Sunumunu vLLM ve Triton ile Tamamen İçeride Kuruyor
Netflix'in vLLM, Triton ve OpenAI uyumlu API ile kendi LLM sunum altyapısını nasıl kurduğuna dair mühendislik kararları ve üretim dersleri.
Governed Agent: LLM metni okur, kod ve kurallar karar verir
Governed Agent, LLM'i sınırlı metin çıkarımına hapseden, kararları kod ve tablolarla veren deterministik bir mimariyi ITIL örneğiyle gösteriyor.
Bağlam Mühendisliğinin Ötesi: LLM'ler İçin Kanal Disiplini
LLM güvenilirliği için context engineering yetmiyor: kanal mühendisliği ve Socium modeli, insan-AI iletişimini disiplinli tasarlamayı öneriyor.