jailbreaking

Araştırma: LLM'lerin rol tanıma açığı saldırılara karşı temelden kırılgan

ICML araştırması, LLM'lerin rolleri etiket değil metin üslubuyla tanıdığını, bunun da temelden çözülemez bir güvenlik açığı yarattığını gösteriyor.