» Etiket
ai-infrastructure
4 yayınTemmuz 2026
LLM Çıkarımının Enerji Maliyeti: LLaMA Üzerinde Ölçüm
Araştırmacılar, LLaMA modelinin farklı boyutlarını V100 ve A100 GPU'larda test ederek LLM çıkarımının enerji ve hesaplama maliyetini analiz etti.
llmllamagpuenergy-efficiencyOptik Ölçekleme Mimarisi Netleşti, Zorluk Üretimde
AMD, Nvidia, Meta ve diğerlerinin kurduğu OCI MSA konsorsiyumu, AI kümelerinde optik ölçeklemenin mimarisini netleştirdi. Asıl sorun artık lazer üretiminde.
ai-infrastructureoptical-networkingco-packaged-opticssemiconductor-manufacturingAçık Ağırlıklı Model Geçişi İçin Üretim Kontrol Listesi
Açık ağırlıklı modellere geçiş yapan ekipler için sözleşme, eval seti, yönlendirme katmanı ve doğrulama adımlarını içeren pratik bir üretim rehberi.
aiopen-weight-modelsllm-opsai-infrastructureLiteLLM ile LLM Yönetimi: İzleme, Kota ve Maliyet Kontrolü
Midas mühendislik ekibi, dağınık LLM harcamalarını ve gözlemlenebilirlik sorununu LiteLLM tabanlı merkezi bir gateway ile nasıl çözdüğünü anlatıyor.
llmlitellmobservabilitykubernetes