"Halüsinasyon" Tek Bir Hata Değil, Üç Farklı Hata
Halüsinasyon üç ayrı sorun: düzeltilebilir bağlam eksikliği, doğrulanamaz akıcılık ve ulaşılamaz gelecek bilgisi. Mühendisler için ayrım rehberi.
Bir modelin var olmayan bir API metodu uydurması ile bir savaş tarihini kendinden emin şekilde tahmin etmesi aynı sorun değil, ama ikisine de "halüsinasyon" diyoruz. Ayırt edici soru şu: eksik bağlam elde edilebilir mi? Kod tabanındaki bir hata gibi bağlam bir yerde durup doğrulanabiliyorsa düzeltilebilir. Modelin duyguyu "anlayıp anlamadığı" gibi sorularda cevap akıcı ama doğrulanamaz. Yarının vuruş tarihi gibi tahminlerde ise gereken bilgi henüz kimsede yok — bu ne daha iyi prompt'la ne de daha büyük context window ile kapanacak bir boşluk.
OpenAI ve Georgia Tech'ten bir çalışma (Kalai ve ark., arXiv:2509.04664), GPQA ve MMLU-Pro gibi liderlik tablolarının "bilmiyorum" demeyi sıfır puanla cezalandırdığını, kendinden emin yanlış tahmine ise puan verdiğini gösteriyor. Modeller bu ödül yapısı altında eğitilince öğrendikleri tek ders bluff yapmak oluyor. Ayrı bir teorik çalışma (Xu ve ark., arXiv:2401.11817) ise bir dil modelinin her hesaplanabilir fonksiyonu öğrenemeyeceğini, dolayısıyla genel amaçlı kullanıldığında bir yerlerde mutlaka halüsinasyon üreteceğini kanıtlıyor. Sebep yapısal: bir sonraki token için olasılık dağılımı hiçbir zaman boş değil, bu yüzden model her zaman bir şey söylüyor; insanın sahip olduğu "anlamıyorum, dur" içsel durumu modelde yok.
Jerusalem Post'un 2026 başında yaptığı bir deney bunu somutlaştırıyor: dört farklı modele ABD'nin İran'a ne zaman saldıracağını sorup üstlerine gidildiğinde, dördü de birbirinden farklı ve kesin tarihler verdi. Baskı arttıkça cevaplar daha spesifik hale geldi ama gerçekte hiçbir şey daha netleşmedi. Model gerçeğe yaklaşmadı, sadece bilemediği bir şey hakkında daha ayrıntılı konuştu. Mühendisler için sonuç: "halüsinasyonu düzelt" tek bir çözüm değil; hangi türle uğraştığınızı bilmeden doğru aracı seçemezsiniz.