Yapay Zeka Neden İngilizce Dışında Daha Kötü Çalışıyor?

Büyük dil modellerinin İngilizce dışındaki dillerde daha zayıf performans göstermesinin nedeni dilbilimsel zorluk değil; eğitim verisi payı, tokenizer verimliliği ve talimat ayarlamanın (instruction-tuning) kapsamı gibi mühendislik kararlarıdır. Kurumsal bilgi erişimi görevlerinde İngilizce ile diğer diller arasında yüzde 29'a varan doğruluk farkları ölçülmüş; eğitim verisinde hiç yer almayan bazı yerli dillerde model performansı rastgele tahmin seviyesine (yaklaşık yüzde 38) düşmüştür.

Konuşan sayısı bu performansı öngörmüyor: Bengalce, Almancadan çok daha fazla konuşucuya sahipken dijital ayak izi çok daha küçük, çünkü kurumsal ölçekte metin üretimi zenginlik, internet erişimi ve sömürgecilik tarihiyle ilişkili. Daha kritik ve daha az bilinen etken ise 'tokenizer vergisi': İngilizce dışı diller, özellikle Latin olmayan alfabeler ve sondan eklemeli diller, aynı anlamı ifade etmek için 3-4 kat daha fazla token tüketebiliyor. Bu durum hem maliyeti artırıyor hem de kullanılabilir bağlam penceresini daraltıyor hem de modelin metni daha kaba bir çözünürlükte işlemesine yol açıyor.

Mühendisler için sonuç açık: çok dilli performans sorunlarının önemli bir kısmı dilin doğasından değil, eğitim verisi dağılımından ve tokenizer tasarımından kaynaklanıyor — yani düzeltilebilir. Son model ailelerinde büyütülen kelime dağarcıkları bu sorunu hafifletiyor ama kökten çözmüyor, çünkü tokenizer kapasitesi sınırlı ve dağılım hâlâ İngilizce ağırlıklı eğitim verisini yansıtıyor.