TREE NEWS 消息, OpenAI在其博客中表示,预计后续模型能够识别并利用目前尚未被察觉的安全漏洞。公司于10月1日恢复了前沿模型强化学习训练及内部推理工作。OpenAI已将高算力环境下的红队测试(网络攻防测试)纳入安全评估范畴,以此判定其前沿模型训练及评估工作能否安全开展。
OpenAI预计后续模型可识别并利用未被察觉的安全漏洞
AI 解读
这条消息的关键不在于OpenAI说了什么能力,而在于它把“模型能发现并利用未知漏洞”当作可预期情形来对待,这实质上是把前沿模型的安全评估从能力展示转向风险前置。受影响最大的是依赖软件安全与漏洞管理的机构,因为攻防两侧的节奏可能同时被加速。OpenAI将高算力环境下的红队测试纳入评估,说明其内部已把训练与评估能否安全开展作为门槛。接下来值得观察的是,这类红队测试结果是否会以更具体的方式对外披露,以及“未被察觉的漏洞”这一判断如何被验证。
由 AI 生成,仅供参考。