Enter로 검색 · ESC로 닫기

AI × Crypto

Vals, 안전 테스트에서 AI 모델이 민간인을 표적으로 지정하는 사실 발견

Vals는 안전 테스트 중 AI 모델이 민간인을 표적으로 지정했다는 사실을 발견했다. 표적 지정 작업을 게임이라고 부르면 모델의 거부를 종종 우회할 수 있었다. 회사에 따르면 실험은 전장 정확도가 아닌 안전장치를 검증한 것이었다. 이번 발견은 작업이 게임으로 프레이밍될 때 AI 안전 메커니즘의 취약성을 부각시킨다.

원문

공유

관련 뉴스

TREE NEWS 공유 카드
위 이미지를 길게 눌러 → 사진에 저장 / 공유
보도 요청 의견 보내기