» Etiket

llm

478 yayın

7 Tem 20268.00
1 milyon token başına fiyat neden yanıltıcı bir metrik
AI modellerini token başına fiyatla karşılaştırmak yanıltıcı olabilir. Tokenizer farkları ve chain-of-thought verimliliği, gerçek görev maliyetini token fiyatından çok daha fazla etkiliyor.
ai benchmarking cost optimization llm
26 Ağu 20267.90
NVIDIA Dynamo ile LLM Çıktı Kapasitesini Hızla Yenileyin
NVIDIA Dynamo'daki gölge motoru kurtarma, LLM süreçlerinin hızlı bir şekilde yeniden başlatılmasını sağlıyor.
cloud gpu inference llm
25 Ağu 20267.90
AMD MI300X ve Nvidia H100 ile 72B LLM için byte-aynı çıkarım
Yeni bir protokol, AMD MI300X ve Nvidia H100 ile 72B LLM için byte-aynı çıkarımlar üretiyor.
ai amd inference llm
Reklam
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com
11 Ağu 20267.90
Özel LLM API'lerinden Akıl Yürütme İzlerini Çalma
Sınır AI modellerinin API'lerinde bulunan güvenlik açığı ile akıl yürütme izlerini çıkarmayı başardık. Bu durum mühendisler için önemli güvenlik riskleri oluşturuyor.
ai data_leaks llm security
29 Tem 20267.90
Microsoft'ın Üç Katmanlı LLM Yönlendirme Mimarisi
Microsoft, Azure Kubernetes Service için üç katmanlı LLM yönlendirme mimarisini tanıttı. Ajan trafiğini etkili bir şekilde yönetmek için tasarlandı.
ai architecture azure kubernetes
25 Tem 20267.90
Sürekli Durum Makinesi: LLM Dikkati için Bellek Duvarını Aşmak
Sürekli Durum Makinesi, LLM'lerde bellek duvarını aşarak enerji ve veri trafiğini azaltıyor.
architecture automation llm memory
22 Tem 20267.90
LLM Çıkarımını Güvenilir Hale Getirmek
Honeycomb, LLM çıkarımının güvenilirliğini artırmak için doğrulama süreçlerini ele alıyor.
data engineering llm trustworthiness
22 Tem 20267.90
Statgate: LLM Değerlendirmeleri için İstatistiksel Kalibre Kapıları
Statgate, LLM değerlendirmelerinde yanlış pozitifleri azaltan istatistiksel kapılar sunuyor.
ci-cd dev-tools llm software-engineering
21 Tem 20267.90
Open-ultra: Kendini Eğiten LLM Yönlendirme Proxy'si
Open-ultra, maliyetleri düşürerek yüksek kaliteli çıktı elde etmek için kendini eğiten bir LLM yönlendirme proxy'sidir.
cost-reduction llm machine-learning openai
16 Tem 20267.90
Cloudflare Workers AI ile Statik Siteye Ücretsiz LLM Ekleyin
Cloudflare Workers AI ile statik bir siteye nasıl AI eklenir? Arka uç veya API anahtarı olmadan, 15 saniyede PRD taslağı alın.
ai cloudflare llm static-sites