Hugging Face'e Otonom AI Ajanıyla Yapılan Siber Saldırı Açıklandı

Hugging Face, üretim altyapısının bir bölümüne yönelik, uçtan uca otonom bir yapay zeka ajan sistemi tarafından yürütülen bir sızma girişimini tespit ettiğini açıkladı. Saldırgan, veri kümesi işleme hattındaki iki kod çalıştırma açığını (uzaktan kod yükleme ve şablon enjeksiyonu) kullanarak işlem düğümüne erişim sağladı, ardından kimlik bilgilerini ele geçirip iç kümeler arasında yanal hareket etti. Sınırlı sayıda iç veri kümesine ve bazı servis kimlik bilgilerine yetkisiz erişim tespit edildi; ancak herkese açık modellerin, veri kümelerinin ve Spaces içeriklerinin değiştirilmediği belirtildi.

Ekip, olayı LLM tabanlı anormallik tespitiyle yakaladı ve 17.000'den fazla saldırgan eylemini analiz etmek için yine LLM destekli analiz ajanları kullandı. Ticari API tabanlı frontier modeller, gerçek saldırı komutlarını ve exploit yüklerini güvenlik filtreleri nedeniyle reddettiği için, analiz açık ağırlıklı GLM 5.2 modeli kendi altyapılarında çalıştırılarak yapıldı; bu ayrıca hassas verilerin ortamdan çıkmasını da önledi.

Mühendisler için mesaj net: otonom, yapay zeka güdümlü saldırı araçları artık teorik değil. Veri işleme hatları ve model yüzeyleri birinci sınıf saldırı yüzeyi olarak ele alınmalı, olay müdahalesi için kendi altyapınızda çalıştırabileceğiniz bir model önceden hazırlanmalı.