» Etiket
llm
477 yayınAPI fiyatlandırması kullanıcı içeriğini nasıl paraya çeviriyor
X, Reddit ve Stack Overflow'daki API fiyatlandırması aynı örüntüyü gösteriyor: kullanıcı verisiyle eğit, sonra erişimi fiyatlandır ve engelleyeni yasakla.
eBPF Doğrulayıcı Hatalarını Çözmek: bpfix Aracı
eBPF doğrulayıcısının belirsiz hata mesajları onarımı zorlaştırıyor; bpfix, proof kaybının yerini bularak LLM destekli onarım başarısını %11-21 artırıyor.
LLM Quantization Rehberi: GPTQ, AWQ ve GGUF Karşılaştırması
Büyük dil modellerini 4-bit'e sıkıştırarak VRAM ihtiyacını düşüren quantization tekniklerini; GPTQ, AWQ, GGUF ve bitsandbytes yöntemlerini karşılaştırmalı olarak inceliyoruz.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.comCAI Dataset: Siber Güvenlikte En Büyük LLM Operatör Korpusu
CAI Dataset, 14 ayda toplanan 230 bin oturum ve 26 milyon promptla siber güvenlikte en büyük LLM operatör korpusunu sunuyor; gizlilik riski büyük.
StoryScope: Yapay Zekanın Anlatı İmzasını Ortaya Çıkarıyor
StoryScope, üslup yerine anlatı yapısına odaklanarak yapay zeka kurgusunu %93 doğrulukla tespit ediyor ve modele özgü anlatı imzalarını ortaya çıkarıyor.
LLM Çıkarımının Enerji Maliyeti: LLaMA Üzerinde Ölçüm
Araştırmacılar, LLaMA modelinin farklı boyutlarını V100 ve A100 GPU'larda test ederek LLM çıkarımının enerji ve hesaplama maliyetini analiz etti.
Context Window'u Çöp Çekmecesi Değil, Bütçe Gibi Yönetin
Bir açık kaynak context-engineering framework'ü, AI ajanlarına işe başlamadan önce context manifest hazırlatarak token bütçesini disipline ediyor; decay ve platform paritesi de cabası.
VisionBridge: Metin tabanlı LLM'lere görüntü yeteneği kazandıran MIT proxy
VisionBridge, OpenAI uyumlu küçük bir proxy ile herhangi bir metin LLM'ini ayrı bir görme modeliyle görüntüleri analiz edebilir hale getiriyor. Eğitim ya da ağırlık gerekmiyor.
LLM ajan performansı aslında bir dağıtık sistem problemi
FixBugs ekibi, LLM debug ajanını hızlandırmak için token matematiği, paralel chunking ve kuyruk mimarisi kullanıyor; dosya analizi 10 dakikadan 40 saniyeye indi.
JADEPUFFER: LLM Destekli Otonom Fidye Yazılımı Saldırısı
Sysdig araştırmacıları, Langflow açığıyla ele geçirilen ve veritabanı sunucularını hedefleyen tamamen otonom LLM fidye yazılımı Jadepuffer'ı belgeledi.