» Etiket
llm
155 yayınMaestro AI: Gereksiz Sonnet Harcamasını Önleyen LLM Router
Maestro AI, Cursor ve Claude Code için görevleri analiz edip maliyet ve kaliteye göre uygun LLM'e yönlendiren açık kaynaklı bir router katmanı.
LLM API faturaları neden sessizce patlar: 7 mühendislik dersi
LLM API faturalarının sessizce patlamasının 7 nedeni: retry fırtınaları, tutarsız token raporlama, streaming ve eşzamanlılık hataları.
API fiyatlandırması kullanıcı içeriğini nasıl paraya çeviriyor
X, Reddit ve Stack Overflow'daki API fiyatlandırması aynı örüntüyü gösteriyor: kullanıcı verisiyle eğit, sonra erişimi fiyatlandır ve engelleyeni yasakla.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comeBPF Doğrulayıcı Hatalarını Çözmek: bpfix Aracı
eBPF doğrulayıcısının belirsiz hata mesajları onarımı zorlaştırıyor; bpfix, proof kaybının yerini bularak LLM destekli onarım başarısını %11-21 artırıyor.
LLM Quantization Rehberi: GPTQ, AWQ ve GGUF Karşılaştırması
Büyük dil modellerini 4-bit'e sıkıştırarak VRAM ihtiyacını düşüren quantization tekniklerini; GPTQ, AWQ, GGUF ve bitsandbytes yöntemlerini karşılaştırmalı olarak inceliyoruz.
CAI Dataset: Siber Güvenlikte En Büyük LLM Operatör Korpusu
CAI Dataset, 14 ayda toplanan 230 bin oturum ve 26 milyon promptla siber güvenlikte en büyük LLM operatör korpusunu sunuyor; gizlilik riski büyük.
StoryScope: Yapay Zekanın Anlatı İmzasını Ortaya Çıkarıyor
StoryScope, üslup yerine anlatı yapısına odaklanarak yapay zeka kurgusunu %93 doğrulukla tespit ediyor ve modele özgü anlatı imzalarını ortaya çıkarıyor.
LLM Çıkarımının Enerji Maliyeti: LLaMA Üzerinde Ölçüm
Araştırmacılar, LLaMA modelinin farklı boyutlarını V100 ve A100 GPU'larda test ederek LLM çıkarımının enerji ve hesaplama maliyetini analiz etti.
Context Window'u Çöp Çekmecesi Değil, Bütçe Gibi Yönetin
Bir açık kaynak context-engineering framework'ü, AI ajanlarına işe başlamadan önce context manifest hazırlatarak token bütçesini disipline ediyor; decay ve platform paritesi de cabası.
VisionBridge: Metin tabanlı LLM'lere görüntü yeteneği kazandıran MIT proxy
VisionBridge, OpenAI uyumlu küçük bir proxy ile herhangi bir metin LLM'ini ayrı bir görme modeliyle görüntüleri analiz edebilir hale getiriyor. Eğitim ya da ağırlık gerekmiyor.