» Etiket
llm
71 yayınOctomind Cloud: Yapay Zekâ Ajanları İçin Kalıcı Bulut Altyapısı
Octomind Cloud betası, yapay zekâ ajanları için model erişimini ve kalıcı bulut bilgi işlemi saniye bazlı şeffaf faturalandırmayla birleştiriyor.
Kodun Maliyeti Çökünce Mühendislik Yönetimi Nasıl Değişmeli
Yapay zeka kod yazma maliyetini düşürdü ama mühendislik yönetimi pratiklerinin yarısı hâlâ geçerli. Hangi varsayımların çöktüğünü, hangilerinin çökmediğini analiz ediyoruz.
PXQ: ik_llama.cpp forku eski Tesla/Pascal GPU'larda +88% prefill kazandırıyor
ik_llama.cpp forku pxq_llama, yeni PXQ quant formatıyla Tesla P100/V100 ve 1080 Ti'de prefill ve decode hızını ciddi oranda artırıyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comQuantprobe: 16 GB RAM'lik Eski PC'de 110B Parametreli LLM Çalıştırma
Quantprobe aracı, 2016 model bir PC'de 110B parametreli LLM'i 16GB RAM ve SATA SSD ile çalıştırmanın ölçümle kanıtlanmış yöntemini gösteriyor.
Netflix, LLM Sunumunu vLLM ve Triton ile Tamamen İçeride Kuruyor
Netflix'in vLLM, Triton ve OpenAI uyumlu API ile kendi LLM sunum altyapısını nasıl kurduğuna dair mühendislik kararları ve üretim dersleri.
Governed Agent: LLM metni okur, kod ve kurallar karar verir
Governed Agent, LLM'i sınırlı metin çıkarımına hapseden, kararları kod ve tablolarla veren deterministik bir mimariyi ITIL örneğiyle gösteriyor.
Bağlam Mühendisliğinin Ötesi: LLM'ler İçin Kanal Disiplini
LLM güvenilirliği için context engineering yetmiyor: kanal mühendisliği ve Socium modeli, insan-AI iletişimini disiplinli tasarlamayı öneriyor.
600 Mimari: LLM'ler Sistem Tasarlarken Neyi Varsayılan Seçiyor?
Altı LLM ailesine 20 mimari brifi verilerek 600 tasarım toplandı; sonuçlar modellerin varsayılan teknoloji tercihlerini ve tutarsızlıklarını ortaya koyuyor.
AVE: Agentik Yapay Zeka için Davranışsal Güvenlik Açığı Standardı
AVE, agentik yapay zeka sistemlerindeki davranışsal güvenlik açıklarını sınıflandıran yeni standart; AIVSS puanlama ve bawbel-scanner ile CI entegrasyonu.
Tatildeki AI Deneyi Kuantum Mekaniğinde Gerçek Bir Keşfe Dönüştü
Bir güvenlik mühendisi, tatilde Claude AI ile 2008'den kalma açık bir kuantum mekaniği problemini kesin aritmetikle çözdü.