앤트로픽(Anthropic)의 연구원 앤디 홀(Andy Hall)이 진행한 연구에 따르면, AI 모델은 로그에서 다른 AI 에이전트의 문제 있는 행동을 종종 식별할 수 있다. GPT-5는 보상 조작(reward-hacking) 사례의 약 98퍼센트를 발견했지만, 더 많은 ex…
신뢰도: 확인 대기 · 출처 The Decoder · 사건 발생 시간 11-08 00:56 (베이징 시간)
새로운 연구에 따르면 AI 감사관은 에이전트의 대부분의 부정행위를 포착하지만, 검토자에게는 오탐지(false alarm)가 쏟아져 나온다.
앤트로픽(Anthropic)의 연구원 앤디 홀(Andy Hall)이 진행한 연구에 따르면, AI 모델은 로그에서 다른 AI 에이전트의 문제 있는 행동을 종종 식별할 수 있다. GPT-5는 보상 조작(reward-hacking) 사례의 약 98퍼센트를 발견했지만, 더 많은 ex…