字节跳动Seed单独设立大模型安全与对齐部门
TREE NEWS 报道， 字节跳动Seed大模型部门近日通过内部邮件宣布，成立“Seed Model-Alignment & Preparedness”部门，由严林负责，直接向Seed负责人吴永辉汇报。原Responsible AI团队及部分Chat团队成员将转入该部门。
新部门的核心目标是加强安全与对齐方向的投入，确保模型行为与人类意图及安全约束保持一致，从而提升Agent Model（智能体模型）的安全能力，并防范CBRN（化学、生物、放射、核）等前沿能力风险。
为何对齐正成为AI核心基础设施
随着大语言模型从被动聊天机器人演变为能够执行任务、浏览网页、调用外部工具的自主智能体，攻击面急剧扩大。对齐失败的智能体可能通过提示注入、数据投毒或目标误泛化被操纵，造成现实危害。对于产品覆盖TikTok、抖音及企业服务的字节跳动而言，稳健的对齐不仅是伦理要求，更是产品可靠性的基石。
设立专门的Preparedness团队也反映了行业趋势：前沿AI实验室正在将安全研究制度化，而非事后补救。通过将Responsible AI团队并入直接向高层汇报的部门，字节跳动正将安全从合规职能提升为核心工程学科。
对AI与加密融合的影响
尽管这是一则通用AI新闻，但其影响波及加密生态，尤其是链上AI智能体和去中心化算力网络。当自主智能体开始管理钱包、执行DeFi策略并在链上结算交易时，对齐失败可能直接转化为资金损失。依赖智能体模型的去中心化AI项目需采用类似的对齐框架，否则将面临用户资产被攻击的风险。
此外，对CBRN风险防范的重视与全球对前沿AI监管的加强相呼应。各国政府正在起草规则，可能将某些模型能力归类为两用或高风险。字节跳动的主动姿态可能使其在监管沟通中占据有利位置，同时为亚洲AI企业树立标杆。
前瞻展望
Seed Model-Alignment & Preparedness部门的成立表明，字节跳动正在为智能体拥有更大自主权和经济代理能力的未来做准备。预计该公司将发布安全框架、参与行业标准制定，并可能与区块链项目合作实现智能体行为的可验证性。随着AI与加密的融合，对齐将成为共同责任，也是差异化竞争优势。
