TREE NEWS 消息, 字节跳动Seed发出内部邮件,宣布成立“Seed Model-Alignment&Preparedness”部门,由严林负责,向Seed负责人吴永辉汇报。原Responsible AI团队及部分Chat团队成员将转入该部门。新部门旨在加强安全与对齐方向投入,对齐的核心是让模型行为与人类意图和安全约束保持一致,以提升Agent Model安全能力,并防范CBRN等前沿能力风险。
字节跳动Seed成立大模型安全与对齐部门
AI 解读
把安全与对齐从原有的Responsible AI团队升格为独立部门,并直接向Seed负责人汇报,说明字节在Agent模型与前沿能力风险上的组织投入正在从“配套职能”转向“主线能力”。这类调整通常先于产品与合规层面的动作,影响的是模型训练、评估与上线节奏,而非单一模型发布。值得观察的是,该部门与Chat团队之间的权责边界如何划分,以及安全评估会以何种方式嵌入模型迭代流程。
由 AI 生成,仅供参考。