Ürün Kataloğu İçin Çoklu Modelli Vektör Aramanın Perde Arkası
Milyonlarca ürün görselini ve açıklamasını vektöre dönüştüren bir arama platformu nasıl kuruldu? Qdrant, HNSW ayarları ve GPU verimliliğiyle ilgili çıkarımlar.
Bir öneri sistemleri ekibi, ürün görsellerini ve metin açıklamalarını çoklu modelli (multimodal) embedding'lere dönüştürerek anlam bazlı arama yapan bir platform inşa etti. Amaç, klasik anahtar kelime aramasının kör noktalarını (farklı kelimelerle tanımlanan aynı ürünler, yeni eklenen ürünlerde soğuk başlangıç sorunu) aşmaktı. Sistem; embedding servisi, ingestion pipeline, arama API'si ve konfigürasyon servisinden oluşan sade bir mimariye sahip ve vektör veritabanı olarak Qdrant seçildi.
Projeden çıkan en dikkat çekici derslerden biri, çok kiracılı (multitenant) yapının bir veri modelleme kararı olduğuydu: kiracı başına ayrı koleksiyon yerine, paylaşımlı koleksiyonlarda kiracı bazlı ayrı index grafikleri kullanmak hem gecikmeyi hem izolasyonu iyileştirdi. Bir diğer önemli bulgu ise HNSW'nin ef parametresini elle ayarlamanın, otomatik moda kıyasla 3-5 kat daha yavaş sonuçlar verdiğiydi; bu da 'varsayılanı değiştirmeden önce ölç' prensibini güçlü şekilde doğruladı.
GPU tarafında ise asıl mesele ham hız değil, kullanım verimliliğiydi. Sıfıra ölçeklenen spot GPU havuzları ve üretici/tüketici boru hattı tasarımı maliyetleri düşürürken, BF16 desteği olmayan GPU'larda sessizce tam hassasiyete düşen framework davranışı performans sorunlarına neden oldu. Mühendislik ekibi için asıl zorlu kısmın, gösterişli model seçimlerinden çok görüntü indirme gibi sıradan ama kritik güvenilirlik işleri olduğu vurgulandı.