» Etiket
llm
423 yayınDevTeam AI: QwenCloud ile Çok Ajanlı Yazılım Ekibi
QwenCloud Global AI Hackathon için geliştirilen DevTeam AI, ürün fikrini 11 uzman AI ajanıyla tam bir yazılım teslim planına dönüştürüyor.
ZML/LLMD Alfa: CUDA'dan Apple Metal'e Tek LLM Sunucusu
ZML/LLMD alfa; LLaMa, Gemma, Qwen ve Mistral modellerini NVIDIA, AMD, TPU, Intel ve Apple Metal'de tek sunucuyla çalıştırıyor, DFlash ile hızlanma sağlıyor.
llama.garden: Nostr tabanlı merkeziyetsiz LLM torrent ağı
llama.garden, LLM ağırlıklarını torrent ile dağıtır; Nostr tabanlı katalog ve Hugging Face yedek sunucu desteğiyle seedersiz bile indirme sağlar.
CommitBrief — terminalde yapay zekâ destekli kod incelemesi
Staged değişiklikleri, bir commit aralığını ya da bütün bir GitHub pull request'ini yerelde inceleyen sağlayıcı bağımsız CLI. Sıfır telemetri, sunucu yok. Açık kaynak, GPL-3.0.
commitbrief.com1 milyon token başına fiyat neden yanıltıcı bir metrik
AI modellerini token başına fiyatla karşılaştırmak yanıltıcı olabilir. Tokenizer farkları ve chain-of-thought verimliliği, gerçek görev maliyetini token fiyatından çok daha fazla etkiliyor.
Microsoft'ın Üç Katmanlı LLM Yönlendirme Mimarisi
Microsoft, Azure Kubernetes Service için üç katmanlı LLM yönlendirme mimarisini tanıttı. Ajan trafiğini etkili bir şekilde yönetmek için tasarlandı.
Sürekli Durum Makinesi: LLM Dikkati için Bellek Duvarını Aşmak
Sürekli Durum Makinesi, LLM'lerde bellek duvarını aşarak enerji ve veri trafiğini azaltıyor.
LLM Çıkarımını Güvenilir Hale Getirmek
Honeycomb, LLM çıkarımının güvenilirliğini artırmak için doğrulama süreçlerini ele alıyor.
Statgate: LLM Değerlendirmeleri için İstatistiksel Kalibre Kapıları
Statgate, LLM değerlendirmelerinde yanlış pozitifleri azaltan istatistiksel kapılar sunuyor.
Open-ultra: Kendini Eğiten LLM Yönlendirme Proxy'si
Open-ultra, maliyetleri düşürerek yüksek kaliteli çıktı elde etmek için kendini eğiten bir LLM yönlendirme proxy'sidir.
Cloudflare Workers AI ile Statik Siteye Ücretsiz LLM Ekleyin
Cloudflare Workers AI ile statik bir siteye nasıl AI eklenir? Arka uç veya API anahtarı olmadan, 15 saniyede PRD taslağı alın.