» Etiket
machine learning
5 yayın1 milyon token başına fiyat neden yanıltıcı bir metrik
AI modellerini token başına fiyatla karşılaştırmak yanıltıcı olabilir. Tokenizer farkları ve chain-of-thought verimliliği, gerçek görev maliyetini token fiyatından çok daha fazla etkiliyor.
aillmmachine learningbenchmarkingLLM'i Konuşturma, Gizli Durumunu Sonda ile Oku
LLM'ler cevabı üretmeden önce gizli katmanlarında taşır. Bu teknik, metin üretmeden küçük bir sonda ile hızlı, ucuz ve kalibre edilmiş sıfır-atış sınıflandırma sağlıyor.
llmnlpmachine-learningclassificationKanser Aşısı Nasıl Tasarlanır: Neoantijen ve MHC Bilimi
UNC'deki PIRL laboratuvarının kurucuları, neoantijen tespiti, MHC tahmini ve kişiselleştirilmiş immünoterapinin mühendislik zorluklarını üç saatlik bir söyleşide anlatıyor.
cancer vaccinesimmunotherapymachine learningbioinformaticsYeni çalışma: Dil modelleri parametre başına 3.6 bit ezberliyor
Araştırmacılar, dil modellerinin ezberleme kapasitesini ölçen yeni bir yöntem geliştirdi ve GPT tarzı modellerin parametre başına yaklaşık 3.6 bit bilgi depoladığını buldu.
llmmemorizationmachine-learningscaling-lawsAI Çıkarım Mühendisliği: Prefill ve Decode Ayrımının Anatomisi
LLM çıkarımının prefill ve decode aşamaları, GPU darboğazları ve batching, prefix caching gibi optimizasyon teknikleri mühendislik perspektifiyle ele alınıyor.
aiinferencellmgpu