TREE NEWS 消息， 微软首席执行官Satya Nadella表示，企业应将强大的AI模型视为潜在的内部威胁，假定其可能遭入侵，并建立“紧急制动”机制，以防智能体模型失控。他周六在X上发帖称，部署先进AI的企业不应只依赖模型开发商的保证，“我们必须假定模型已遭入侵，并从一开始就加以控制”，获授权人员应始终能在模型执行任务过程中将其暂停或关闭。
微软CEO纳德拉呼吁为先进AI模型设立“紧急制动”机制
AI 解读
纳德拉把先进AI模型直接类比为“已被入侵的内部威胁”，这一框架的转变值得注意：安全假设从“信任开发者保证”转向“默认不可信、全程可干预”。受影响最大的是把智能体接入生产环境的企业，其部署流程、权限设计与人工接管能力将被重新审视。值得观察的是，这种“紧急制动”思路会否从单一企业实践扩散为行业默认要求，以及模型开发商与部署方之间的责任边界如何随之调整。
由 AI 生成，仅供参考。