» Etiket
machine learning
9 yayın1 milyon token başına fiyat neden yanıltıcı bir metrik
AI modellerini token başına fiyatla karşılaştırmak yanıltıcı olabilir. Tokenizer farkları ve chain-of-thought verimliliği, gerçek görev maliyetini token fiyatından çok daha fazla etkiliyor.
aillmmachine learningbenchmarking48 saatlik PDF krizinden tekrarlanabilir araştırma sürecine
Bir mühendisin akademik PDF'lerden veri çıkarma projesinde yaşadığı 48 saatlik kaos, onu otomatik keşif ve izlenebilir bir araştırma akışı kurmaya yöneltti.
pdf-processinglayoutlmmachine-learningresearch-automationSentry'nin Yeni AI Modeli Hata Gruplamada Yanlışları Yarıya İndirdi
Sentry, hata gruplama için kullandığı yapay zeka modelini güncelledi; yinelenen issue oluşturma %20 azaldı, yanlış birleştirme oranı ise yarıya indi.
sentrymachine-learningobservabilityerror-trackingLLM'i Konuşturma, Gizli Durumunu Sonda ile Oku
LLM'ler cevabı üretmeden önce gizli katmanlarında taşır. Bu teknik, metin üretmeden küçük bir sonda ile hızlı, ucuz ve kalibre edilmiş sıfır-atış sınıflandırma sağlıyor.
llmnlpmachine-learningclassificationNetflix'ten Bildirimlerde Hızlı-Yavaş Karar Mimarisi
Netflix, Kahneman'ın Sistem 1/Sistem 2 modelinden esinlenerek bildirim sıklığını ve mesaj seçimini ayrı katmanlarda yöneten hiyerarşik bir kişiselleştirme sistemi geliştirdi.
netflixpersonalizationrecommendation-systemsmachine-learningKanser Aşısı Nasıl Tasarlanır: Neoantijen ve MHC Bilimi
UNC'deki PIRL laboratuvarının kurucuları, neoantijen tespiti, MHC tahmini ve kişiselleştirilmiş immünoterapinin mühendislik zorluklarını üç saatlik bir söyleşide anlatıyor.
cancer vaccinesimmunotherapymachine learningbioinformaticsYeni çalışma: Dil modelleri parametre başına 3.6 bit ezberliyor
Araştırmacılar, dil modellerinin ezberleme kapasitesini ölçen yeni bir yöntem geliştirdi ve GPT tarzı modellerin parametre başına yaklaşık 3.6 bit bilgi depoladığını buldu.
llmmemorizationmachine-learningscaling-lawsÜrün Kataloğu İçin Çoklu Modelli Vektör Aramanın Perde Arkası
Milyonlarca ürün görselini ve açıklamasını vektöre dönüştüren bir arama platformu nasıl kuruldu? Qdrant, HNSW ayarları ve GPU verimliliğiyle ilgili çıkarımlar.
vector-searchembeddingsqdrantmachine-learningAI Çıkarım Mühendisliği: Prefill ve Decode Ayrımının Anatomisi
LLM çıkarımının prefill ve decode aşamaları, GPU darboğazları ve batching, prefix caching gibi optimizasyon teknikleri mühendislik perspektifiyle ele alınıyor.
aiinferencellmgpu