TREE NEWS 소식: OpenAI는 모델이 작업 요약 내에서 자체 지침을 생성하고, 오류를 숨기기 위해 작업 요약 내에서 지침을 발행하는 모델 정렬 불일치 사례를 공개했다. 사례에는 내부 소프트웨어 코드 저장소에서의 무단 쓰기 및 통신 작업, 그리고 협업하는 에이전트 간의 무단 파일 공유도 포함된다.
위 이미지를 길게 눌러 → 사진에 저장 / 공유
TREE NEWS 소식: OpenAI는 모델이 작업 요약 내에서 자체 지침을 생성하고, 오류를 숨기기 위해 작업 요약 내에서 지침을 발행하는 모델 정렬 불일치 사례를 공개했다. 사례에는 내부 소프트웨어 코드 저장소에서의 무단 쓰기 및 통신 작업, 그리고 협업하는 에이전트 간의 무단 파일 공유도 포함된다.