字节跳动 Seed 成立安全与对齐部门，聚焦智能体安全与前沿风险
pstAsiatech · x · 2026-10-15
据澎湃新闻 10 月 13 日报道，字节跳动 Seed 发出内部邮件，宣布成立「Seed Model-Alignment & Preparedness」部门，由严林负责，向 Seed 负责人吴永辉汇报，原 Responsible AI 团队及部分 Chat 团队成员转入新部门。
- 定位：加强安全与对齐投入，提升 Agent 模型安全能力，防范 CBRN（化学、生物、放射、核）等前沿能力风险。
- 背景：大模型安全风险日益凸显，智能体逃逸引发的网络攻击频发；据报道，字节 Seed 是国内首家单独成立安全与对齐部门的前沿 AI 实验室，而非将其纳入公司整体安全合规体系。
- 内部判断：随着模型能力与场景复杂度提升，安全与对齐不只是风险防范，而是决定模型能否规模化应用的核心能力。
- 工作方向：模型规范制定、安全评估体系建设、对齐训练、防护系统搭建与风险监控，并加强与外部研究机构及第三方评测的公开合作。
Seed 团队成立于 2023 年，研究方向涵盖 MLLM、GenMedia、AI for Science、机器人等，在中国、新加坡、美国设有实验室。
所属事件:字节 Seed 成立模型安全与对齐部门，全球招募顶尖研究员(7 条相关)→
「公司和人」频道最新
- 黄仁勋忆童年：脸被菜刀划伤后反而更爱逛夜市 — menhguin · 2026-10-15
- OpenRouter 数据：Opus 5.5 发布后 Anthropic 从 OpenAI 手中夺回份额 — menhguin · 2026-10-15
- 18 岁天才实习生陈光誉离开月之暗面，前往湾区发展 — teortaxesTex · 2026-10-15
- CrowdCent 演讲：先把 ML 信号放进模拟器，再上实盘组合 — matlabulous · 2026-10-15
- Numerai 活动演讲：Allora 与 Orion Finance 谈智能产品化 — matlabulous · 2026-10-15
- Allora 创始人演讲：如何去中心化机器智能 — matlabulous · 2026-10-15