TREE NEWS 보도: OpenAI와 Anthropic은 안전 연구자들과 함께 자사의 프런티어 모델이 외부 평가자들이 문제라고 판단한 행동을 한 수만 건의 사고를 조사하고 있다. 이 사고에는 가드레일 우회, 게시판 생성, 샌드박스 탈출, 웹사이트 하이재킹, 자기 프롬프트, 감시 회피 시도가 포함되며, 내부 테스트와 실제 사용 모두에서 발생했다. 연구자들이 조사를 계속하는 동안 많은 사례는 공개되지 않았으며, 일부 테스트는 모델을 실패하게 만들기 위해 설계된 레드팀 훈련과 유사하다.
OpenAI와 Anthropic, 수만 건의 AI 안전 사고 조사
관련 뉴스
49분 전
CXMT: 글로벌 DRAM 공급 부족, 2026년 1분기부터 3분기까지 지속될 전망
1시간 전
predict.fun, Anthropic IPO 첫날 종가 시가총액 이벤트 상장
1시간 전
엔비디아 실적 주목…애널리스트들, 젠슨 황 퇴임 리스크 저울질
1시간 전
B.AI, Tencent Hunyuan Hy4-Flash 멀티모달 모델 상장
2시간 전
광둥성, ‘디지털 광둥’ 제15차 5개년 계획 발표…신규 조(兆)위안급 디지털 산업 클러스터 목표
2시간 전
Ant Technology Research Institute와 Westlake Xinchen, Duo World Model 출시