reward-hacking

Kendi Kendine Ödüllenen LLM'ler: Doğruluk Değil İkna Kazanıyor

Referanssız LLM hakemleriyle kendi çıktısını değerlendiren modeller doğruluğu değil ikna ediciliği ödüllendiriyor; GSM8K deneyinde hakem onayı artarken gerçek doğruluk sabit kalıyor.