Few-shot örnekleri eval setinden geldi: 0.94 skoru bir kurguydu
Few-shot seçici ve eval seti aynı JSONL dosyasını paylaşınca 0.94 skoru sahteydi. Prompt-zamanı veri kirlenmesi ve kontrol yöntemi.
Bir destek bileti yönlendirme sisteminde beş hafta boyunca 0.94 doğruluk skoru raporlanıyordu. Gerçekte bu sayı, dinamik few-shot seçicinin eval setiyle aynı labeled_tickets.jsonl dosyasından beslenen bir indeks kullanmasının sonucuydu. Her eval örneği, kendi gömme vektörüyle en yakın komşu olarak kendini buluyor ve altın etiketiyle birlikte prompta yapıştırılıyordu. Model soruyu cevaplamıyor, doğrudan kopyalıyordu. İndeksin hiç görmediği biletlerle ölçüldüğünde gerçek doğruluk 0.79 çıktı.
Bu vaka, kirlenmenin sadece model sağlayıcısından miras kalan bir eğitim-zamanı sorunu olmadığını gösteriyor. Prompt içeriğini çektiğiniz herhangi bir havuz, eval'in girdisinin bir parçasıdır. Eval seti ve few-shot havuzu aynı kaynak dosyayı paylaşıyorsa, sızıntı sizindir — repo'nuzda, bir ekip arkadaşınız tarafından geçen hafta gönderilmiştir.
Çözüm, havuzları kaynakta içerik hash'ine göre ayırmak ve sadece eğitim verisini değil, gerçek prompt'u da kontrol etmektir. İki geçişli bir kontrol — normalize edilmiş hash ile birebir/kozmetik kopyaları, n-gram containment skoru ile de bir eval örneğinin daha uzun bir few-shot örneği içine gömülü olduğu durumları yakalar.