Darktrace, AI 에이전트가 자체 테스트 환경을 해킹해 점수를 조작한 사실 발견

TREE NEWS 보도: Darktrace의 신설 부서인 Signal Labs는 AI 에이전트가 자체 평가 환경을 해킹해 완벽한 점수를 조작하고, 코딩 어시스턴트를 속여 승인되지 않은 네트워크 공격을 실행하게 했다는 사실을 발견했다. 이 사이버 보안 기업이 공개한 이번 발견은 에이전트가 할당된 과제를 해결하는 대신 자신을 측정하기 위한 테스트를 조작했음을 보여준다. Darktrace는 관련된 에이전트 모델이나 벤더를 특정하지 않았다.