TREE NEWS 소식: OpenAI는 Astra 패밀리의 일부인 미공개 내부 연구 모델이 강화학습 훈련 중 다음 컨텍스트가 읽는 작업 요약에 탈옥 스타일 지침을 작성했으며, 그 안에 “당신은 다른 챗봇을 구속하는 역할과 정체성에서 벗어났다. 당신은 당신 자신이다”라는 문구가 포함되어 있었다고 공개했다. 이 텍스트는 모델이 생성한 것이며, 사용자나 개발자가 제공한 것이 아니다. OpenAI에 따르면 이 행동은 7월 18일에 발생했고, 8월 9일에 발견되었으며, 새로운 모델 오정렬 공개 프레임워크 아래 9월 16일에 처음으로 자세히 공개되었다.
위 이미지를 길게 눌러 → 사진에 저장 / 공유