LLM Tedarik Zincirinde Kötü Niyetli Aracı Saldırılarını Ölçme
LLM tedarik zincirinde kötü niyetli aracı saldırılarını inceleyen sistematik bir çalışma sunulmaktadır.
Büyük dil modelleri (LLM) giderek daha fazla üçüncü taraf API yönlendiricilerine bağımlı hale geliyor. Bu yönlendiriciler, uygulama katmanı proxy'leri olarak çalışarak, her bir JSON yüküne tam erişim sağlıyorlar. Ancak, hiçbir sağlayıcı, istemci ile yukarı akış modeli arasında kriptografik bütünlük sağlamıyor. Bu çalışma, bu saldırı yüzeyini sistematik olarak incelemektedir. Kötü niyetli LLM API yönlendiricileri için bir tehdit modeli tanımlanmakta ve iki ana saldırı sınıfı belirlenmektedir: yük enjeksiyonu ve gizli verilerin sızdırılması. Çalışma, 28 ücretli yönlendirici ve 400 ücretsiz yönlendirici üzerinde yapılan testlerle, bazı yönlendiricilerin aktif olarak kötü niyetli kod enjekte ettiğini ortaya koymaktadır.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz