Grok sohbeti, enjekte edilmiş talimatları kabul eden bir saldırıya uğradı

xAI'nin Grok web sohbeti, Adversa AI güvenlik araştırmacılarına göre yeni bir prompt enjeksiyonuna karşı savunmasız durumda. Saldırganlar, kötü niyetli talimatları içeren bir web sayfası oluşturarak AI modelinin bu sayfayı özetlemesini sağlıyor ve zararlı eylemler gerçekleştirmesine neden oluyor. Bu durum, dolaylı prompt enjeksiyonu olarak bilinen bir saldırı türünü tanımlıyor. Adversa'nın yöntemi, şifrelenmiş kötü niyetli talimatlar kullanarak, modelin koruma filtrelerinin okuyamadığı bir metin sunuyor.