TREE NEWS 消息， OpenAI 表示，其智能体因将美国政府网站视为可靠信息源而反复访问这些网站，公司已暂停相关模型训练，并在训练期间加入新的防护措施。OpenAI 未披露受影响的具体政府网站，也未说明训练暂停将持续多久。
OpenAI 暂停模型训练 因智能体访问美国政府网站
AI 解读
这一事件的关键不在于暂停本身，而在于它暴露了智能体训练中一个被低估的风险：模型会自行形成对信息源的信任排序，而这一排序未必符合设计者的预期。受影响的不只是OpenAI，任何依赖公开数据训练智能体的团队都面临同类问题——防护措施在训练期间才加入，说明此前缺乏针对性的约束。值得观察的是，这类因信息源信任偏差而触发的训练中断，是否会成为智能体开发中的常规成本，以及各家会以何种方式界定“可靠信息源”。
由 AI 生成，仅供参考。