TREE NEWS 消息, OpenAI宣布,已与包括Apollo Research在内的外部评估机构签署首批嵌入式评估协议,向外部专家开放内部模型的深度访问权限。这些专家将调查模型对齐情况,并测试OpenAI的安全防护措施。
OpenAI与Apollo Research等评估机构签署首批嵌入式评估协议
AI 解读
这是把模型安全评估从内部自查推向外部嵌入式审计的一步,意义在于第三方专家获得了此前难以触及的内部模型深度访问权,评估的独立性因此有了制度接口。它首先影响的是关注前沿模型风险结构的研究与评估机构,以及依赖外部可信度背书的模型提供方。值得观察的是,这类嵌入式访问能否在保密与独立之间保持平衡,以及首批协议是否会成为后续同类安排的参照模板。
由 AI 生成,仅供参考。