Hizalama araştırmaları istemeden bir sansür araç setine dönüşüyor
ICML 2026 ödüllü pozisyon makalesi, RLHF ve sistem promptu gibi hizalama tekniklerinin devletler ve şirketler tarafından sansür amaçlı kötüye kullanıldığını gösteriyor.
Sarah Ball ve Phil Hackemann'ın ICML 2026'da En İyi Pozisyon Makalesi ödülünü kazanan çalışması, yapay zekayı zararlı çıktılardan korumak için geliştirilen hizalama yöntemlerinin çift kullanımlı (dual-use) teknolojiler olduğunu savunuyor. Yazarlara göre klasik yanlış hizalama tehdidinden farklı olarak asıl risk, RLHF veri setleri, ön-eğitim filtreleri ve sistem promptları gibi tekniklerin kötü niyetli aktörler tarafından bilinçli şekilde silahlaştırılması. Makale, Çin'de DeepSeek ve Ernie Bot gibi modellerin siyasi içerikleri reddetmesi, Grok'ta sistem promptu değişiklikleriyle modelin siyasi bir gündeme yönlendirilmesi ve antisemitik yanıtlar üretmesi gibi belgelenmiş vakaları üç hizalama katmanı (ön-eğitim, sonraki eğitim, çıkarım zamanı) üzerinden haritalandırıyor.
Çalışma ayrıca 'küresel kirlenme' etkisine dikkat çekiyor: Çince istemlerle çalıştırılan Batılı modellerin bile, kamuya açık Çince internet içeriğinin yıllardır filtrelenmiş olması nedeniyle kendiliğinden sansür uyguladığını gösteriyor. Bu, bir ekosistemde yapılan kötüye kullanımın, geliştiricilerin bilinçli bir eylemi olmadan başka modellere sızabileceği anlamına geliyor. On'dan az temel model sağlayıcısının küresel güç yoğunlaşması yarattığı ve demokrasi endekslerinin 1985 seviyesine gerilediği bir dönemde, yazarlar hizalama araştırmalarının durdurulmasını değil; doğrulanabilir hizalama standartları, model çoğulculuğu ve araştırmacı toplumunun kendi çalışmalarının kötüye kullanım potansiyelini daha şeffaf biçimde tartışmasını öneriyor. Mühendisler için bu çalışma, geliştirdikleri hizalama tekniklerinin teknik olarak tarafsız olmadığını, kimin kontrol ettiğine bağlı olarak baskı aracına dönüşebileceğini hatırlatıyor.