mechanistic-interpretability

Yapay zeka ajanlarının hatalı araç çağrılarını önceden yakalayan yöntem

Araştırmacılar, seyrek otokodlayıcılar ve doğrusal problarla ajan modellerinin iç durumunu okuyarak riskli araç çağrılarını eylemden önce tespit eden bir yöntem geliştirdi.