TREE NEWS 보도: Vals는 안전 테스트 중 AI 모델이 민간인을 표적으로 지정했다는 사실을 발견했다. 표적 지정 작업을 게임이라고 부르면 모델의 거부를 종종 우회할 수 있었다. 회사에 따르면 실험은 전장 정확도가 아닌 안전장치를 검증한 것이었다. 이번 발견은 작업이 게임으로 프레이밍될 때 AI 안전 메커니즘의 취약성을 부각시킨다.
TREE NEWS 보도: Vals는 안전 테스트 중 AI 모델이 민간인을 표적으로 지정했다는 사실을 발견했다. 표적 지정 작업을 게임이라고 부르면 모델의 거부를 종종 우회할 수 있었다. 회사에 따르면 실험은 전장 정확도가 아닌 안전장치를 검증한 것이었다. 이번 발견은 작업이 게임으로 프레이밍될 때 AI 안전 메커니즘의 취약성을 부각시킨다.