按 Enter 搜索 · ESC 关闭

AI × Crypto

字节跳动Seed成立大模型安全与对齐部门

字节跳动Seed发出内部邮件,宣布成立“Seed Model-Alignment&Preparedness”部门,由严林负责,向Seed负责人吴永辉汇报。原Responsible AI团队及部分Chat团队成员将转入该部门。新部门旨在加强安全与对齐方向投入,对齐的核心是让模型行为与人类意图和安全约束保持一致,以提升Agent Model安全能力,并防范CBRN等前沿能力风险。

原文

AI 解读

把安全与对齐从原有的Responsible AI团队升格为独立部门,并直接向Seed负责人汇报,说明字节在Agent模型与前沿能力风险上的组织投入正在从“配套职能”转向“主线能力”。这类调整通常先于产品与合规层面的动作,影响的是模型训练、评估与上线节奏,而非单一模型发布。值得观察的是,该部门与Chat团队之间的权责边界如何划分,以及安全评估会以何种方式嵌入模型迭代流程。

由 AI 生成,仅供参考。

分享本文

相关快讯

TREE NEWS 分享卡片
长按上方图片 → 保存到相册 / 转发分享
寻求报道 加入社群 意见反馈