TREE NEWS 消息, OpenAI 已构建名为 Control Room 的紧急切断系统,可在 35 秒内中断内部研究任务的模型输出。当人员或自动化监控系统发现安全或安保问题时,该机制即被触发。该开关目前适用于内部研究用途,由人工或自动安全警报启动。
OpenAI 建“控制室”紧急开关,35 秒内切断失控智能体输出
AI 解读
这一机制的意义不在于“35 秒”本身,而在于头部实验室开始把失控智能体的处置从原则声明落到可执行的运维流程:由人工或自动警报触发、面向内部研究任务,说明安全响应正在被当作工程系统而非事后补救来设计。它直接影响的是从事前沿模型内部研究的安全与运维团队,而非外部开发者或终端用户,因为适用范围目前仅限内部。值得观察的是,这类切断机制是否会从研究环境延伸到对外产品与第三方智能体部署,以及自动警报的误报与漏报如何权衡——这决定了它究竟是合规姿态还是可复用的行业范式。
由 AI 生成,仅供参考。