» Etiket
llm
19 yayınAndroid'de llama.cpp KV Durumuyla TTFT 9,9x Azaldı
EdgeSync-LLM, llama.cpp KV API'leriyle tekrar prompt işlemeden Android'de TTFT'yi 9,9x düşürdü; sahte 8,8x hızlanmayı da tespit edip eledi.
Bir AI kod tabanınızı gerçekten anlıyor mu? Bunu nasıl test edersiniz
Bir AI ajanının kod tabanı anlayışını nasıl test edersiniz? Teardown denetimi yöntemi, on üç Ruby projesinde sınandı; güçlü ve zayıf yanları.
Colibri: 744B parametreli GLM-5.2'yi 25GB RAM ile çalıştırma
Colibri, tek dosyalık C motoruyla GLM-5.2'nin 744B parametreli MoE modelini GPU'suz, 25GB RAM'lik makinede çalıştırıyor.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comLiteLLM fiyat tablosunun tek otomatik testi: jq empty
LiteLLM'in ekosistem çapında kullanılan AI fiyat tablosunun tek testi jq empty — kaynak, tarih ya da doğrulama yok. Mühendisler için ne anlama geliyor?
Uçtan Uca Bir RAG Mimarisi: Tek Self-Hosted Yığında Tüm Kavramlar
Self-hosted RAG mimarisinin tüm parçaları: Docling parsing, hibrit arama, RRF, bilgi grafiği, token bütçeleme ve paralellik — gerçek kodla.
Claude Code Prompt Cache Maliyeti: Başlatma Yolu Her Şeyi Değiştiriyor
Claude Code'da prompt cache maliyeti başlatma yoluna göre nasıl değişiyor? Ölçümler, sabit yükün ve subagent fan-out'un etkisini gösteriyor.
Synapse Yapay Zekaya Yanlış Pozitifleri İşaretletir, Asla Sildirmez
Synapse, güvenlik taramalarında yanlış pozitifleri iki modelli AI doğrulamasıyla işaretliyor; hiçbir bulguyu silmeden gate güvenilirliğini koruyor.
LLM'leri Yazılım Gibi Test Etmek: QA için Promptfoo Rehberi
QA mühendisleri için Promptfoo ile LLM test etme: versiyonlanmış evaller, deterministik assertion'lar, model-graded rubric'ler ve sağlayıcı karşılaştırması.
Maestro AI: Gereksiz Sonnet Harcamasını Önleyen LLM Router
Maestro AI, Cursor ve Claude Code için görevleri analiz edip maliyet ve kaliteye göre uygun LLM'e yönlendiren açık kaynaklı bir router katmanı.
LLM API faturaları neden sessizce patlar: 7 mühendislik dersi
LLM API faturalarının sessizce patlamasının 7 nedeni: retry fırtınaları, tutarsız token raporlama, streaming ve eşzamanlılık hataları.