MIT'in Yeni Yöntemi CSAM Üretimine Ayarlı AI Modellerini Görüntü Üretmeden Tespit Ediyor

MIT araştırmacıları, çocuk istismarı materyali (CSAM) üretmek üzere ince ayar yapılmış yapay zeka modellerini, tek bir yasadışı görüntü oluşturmadan tespit eden 'Gaussian probing' adlı bir denetim yöntemi geliştirdi. Thorn ile işbirliğinde geliştirilen teknik, ICML'de sunulan bir makalede %100 doğrulukla test modellerini tanımladı. Yöntem, modelin çıktılarını incelemek yerine, LoRA gibi hafif adaptörlerin iç temsillerde yarattığı değişimleri analiz ediyor.

Bu gelişme, AI destekli CSAM raporlarının 2024'te 67.000'den 2025'te 1,5 milyonun üzerine fırlamasıyla eş zamanlı geldi. Geleneksel çıktı tabanlı denetimler, test amaçlı bile olsa yasadışı içerik üretimi gerektirdiği için mümkün değildi; bu da açık kaynak model deposu barındıran platformlar için büyük bir kör nokta oluşturuyordu.

Gaussian probing, minimal hesaplama gücüyle Hugging Face veya Civitai gibi platformlara entegre edilerek yüklenen modelleri otomatik taramada kullanılabilir. Araştırmacılar yöntemi daha geniş model setlerinde test etmeyi ve ince ayar öncesinde temel modellerdeki zararlı kapasiteleri tespit etmeyi planlıyor; ancak sıfırdan eğitilmiş veya farklı adaptasyon yöntemleri kullanan modellerin hâlâ tespitten kaçabileceği belirtiliyor.