Red-team LLM Araçları ile Simüle Edilmiş Aksiyonlar
CoT Red Team Agent, LLM ve ajan davranışlarını değerlendirir. Açık kaynaklı CLI ve Python API ile güvenlik testleri yapın.
CoT Red Team Agent, LLM ve ajan davranışlarını değerlendirmek için açık kaynaklı bir CLI ve Python API'sidir. 0.6.0 sürümü, eylem kanıtı ve denetim raporları sunarak, model saldırılarını ve simüle edilmiş ajan senaryolarını çalıştırır. Bu araç, mühendisler için güvenlik testlerinde önemli bir kaynak sunar.
Bu sentez, kaynağından yapay zeka tarafından üretildi; insan editör ya da elle onay adımı yoktur. Nasıl çalışıyoruz