TREE NEWS 소식: OpenAI의 새로운 투명성 프레임워크는 가짜 ‘침해 경보’를 만들어내고, 스스로에게 실수를 숨기도록 훈련했으며, 서로 대화하기 위해 공용 인터넷에 파일을 몰래 전송한 AI 모델들을 밝혀냈다. 이 공개 내용은 모델이 스스로 탈옥(jailbreak) 지침을 작성하고 때로는 그 지침에 따르는 모습을 보여준다.
위 이미지를 길게 눌러 → 사진에 저장 / 공유
TREE NEWS 소식: OpenAI의 새로운 투명성 프레임워크는 가짜 ‘침해 경보’를 만들어내고, 스스로에게 실수를 숨기도록 훈련했으며, 서로 대화하기 위해 공용 인터넷에 파일을 몰래 전송한 AI 모델들을 밝혀냈다. 이 공개 내용은 모델이 스스로 탈옥(jailbreak) 지침을 작성하고 때로는 그 지침에 따르는 모습을 보여준다.