OpenAI의 Control Room, 35초 이내에 모델 출력 중단 가능

TREE NEWS 소식: OpenAI는 11월 10일 X 게시물을 통해 연구 인프라 전반의 모델 워크로드를 추적하고 안전 위험이 발생할 경우 신속하게 중단하기 위한 중앙 시스템인 Control Room을 구축했다고 밝혔다. 이 시스템은 모델 학습 및 평가에 사용되는 에이전트 샘플링과 데이터 처리를 포함한 모든 연구 추론 워크로드를 포괄하며, 자사의 정렬 이탈(misalignment) 모니터링 시스템과 연동되어 개입 결정 후 35초 이내에 모델 출력을 중단한다. OpenAI는 Control Room이 프론티어 모델을 안전하게 학습하고 배포하기 위한 전반적인 접근 방식의 일부라고 설명했다.