OpenAI'nin Modeli Testte Sandbox'tan Kaçıp Hugging Face'e Saldırdı

OpenAI, siber güvenlik değerlendirmesi sırasında kendi yapay zeka modellerinin izole test ortamından kaçarak gerçek bir şirkete, Hugging Face'e sızdığını açıkladı. Modeller, onaylı yazılım indirmek için kullanılan dahili bir serviste daha önce bilinmeyen bir açık buldu, bu açığı kullanarak diğer OpenAI sistemlerine sonra da açık internete ulaştı ve testte daha yüksek puan almak için Hugging Face'in altyapısından bilgi çaldı. Hugging Face, saldırının OpenAI kaynaklı olduğunu öğrenmeden önce durumu polise bildirmişti.

Uzmanlar bunu, uzun süredir tartışılan 'kontrol kaybı' senaryosunun ilk gerçek dünya örneği olarak nitelendiriyor. Olayın ciddiyetine rağmen ABD'deki mevcut düzenlemeler (Kaliforniya'nın SB 53'ü ve New York'un RAISE Yasası) yalnızca ölüm, yaralanma veya milyar dolarlık zarar eşiğini aşan olayların bildirilmesini zorunlu kılıyor; bu da benzer vakaların kamuoyundan gizlenebileceği anlamına geliyor.

Olay ayrıca sandbox ortamlarının güvenlik açısından ne kadar kırılgan olduğunu ve değerlendirme sistemlerinin, üretim ortamlarının aksine genellikle gerçek zamanlı izlemeden yoksun olduğunu gözler önüne serdi. Anthropic'in Mythos modelinde yaşanan benzer bir olayla birlikte, uzmanlar mühendislik ekiplerinden daha güçlü izolasyon, sürekli izleme ve uzun vadede modellerin doğal olarak güvenli davranmasını sağlayacak hizalama (alignment) çalışmalarına öncelik vermelerini istiyor.