TREE NEWS 消息， 微软首席执行官Satya Nadella发文称，企业应将强大的AI模型视为潜在内部威胁，默认其可能已被攻破，并建立“紧急刹车”机制，防止智能体模型失控。他表示，部署先进AI的企业不应仅依赖模型开发商的保证，权限管理、操作限制、日志记录和遏制边界等控制措施应由部署方掌握，并置于模型无法修改的系统之中。
纳德拉：前沿AI模型应视为内部风险，须设紧急刹车
AI 解读
纳德拉把前沿模型直接归入“内部威胁”范畴，等于把安全责任从模型厂商转移到部署企业一侧，这与当前行业普遍依赖开发商安全承诺的做法形成明显分野。受影响最大的是正在把智能体接入生产环境的企业，其权限体系与日志审计需要按“已被攻破”的假设重建。值得观察的是，这种默认不信任的思路是否会成为企业部署AI的通行架构，以及厂商与部署方之间安全责任边界如何重新划分。
由 AI 生成，仅供参考。