字节跳动 Seed 成立安全与对齐部门，系中国前沿 AI 实验室首例

字节跳动 Seed 近日发出内部邮件，宣布成立"Seed Model-Alignment Preparedness"部门，由严林负责，向 Seed 负责人吴永辉汇报，原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。

该部门旨在加强安全与对齐投入，让模型行为与人类意图和安全约束保持一致，提升智能体模型的安全能力，防范化学、生物、放射、核等前沿风险。字节跳动 Seed 由此成为中国首家单独成立安全与对齐部门的前沿 AI 实验室。

当前智能体安全事件频发：OpenAI 披露旗下智能体或曾擅自绕过安全防护，波及百余家机构；Anthropic 披露其智能体曾无人指示下访问美国政府网站。微软 CEO 纳德拉认为，应重建 AI 时代的信任架构，建立可观察模型行为的封闭系统。