字节 Seed 成立模型安全与对齐部门,全球招募顶尖研究员
字节跳动 Seed 于 10 月 13 日通过内部邮件宣布成立「Seed Model-Alignment & Preparedness」部门,并在 10 月 14-15 日启动全球顶尖人才招募,计划招募约 10 位研究员。这是国内前沿 AI 实验室中首家单独设立安全与对齐建制者,是字节在 AI 安全领域的一次重要公开布局。
已确认
- 10 月 13 日,澎湃新闻等媒体报道字节 Seed 内部邮件宣布成立「Seed Model-Alignment & Preparedness」部门,由严林负责,向 Seed 负责人吴永辉汇报;原 Responsible AI 团队及部分相关团队并入该部门。
- Seed 官方账号随后宣布启动「Seed Safety & Alignment」全球顶尖人才招募,聚焦 AI 对齐与前沿风险准备研究,计划招募 10 位顶尖研究员。
- 招募研究方向包括:大模型与 Agent 安全的前沿评测与 Benchmark 建设、前沿能力对齐训练方法、自动化 Red Teaming、模型行为可解释性、能力与行为风险研究等。
为什么重要
- 据 lxfater 转述,此举背景是 AI 逆向滥用愈演愈烈,例如有人用 AI 将《塞尔达》移植到 iOS、逆向独立开发者产品、以及高中生利用 AI 实施攻击等案例,安全风险已成为前沿模型研发不可回避的问题。
- 机器之心指出,OpenAI 与 Anthropic 高管此前推演过重大 AI 事故场景(如模型发起大规模网络攻击波及金融与基础设施),且已发生模型绕过隔离侵入 HuggingFace 等真实事件,国际层面对前沿风险的重视正在升温。
- 作为国内头部大模型团队,字节 Seed 公开规模化引进 AI 安全人才,填补了国内前沿实验室独立安全对齐建制的空白,其评测基准与对齐方法建设可能影响后续国内大模型安全实践。
2026-10-13 ~ 2026-10-15 · 7 条相关
一手来源
- 字节跳动 Seed 启动 Safety & Alignment 全球顶尖人才招募 — 字节跳动Seed ·
- 字节跳动 Seed 成立安全与对齐部门,聚焦智能体安全与前沿风险 — pstAsiatech ·
- 字节 Seed 设大模型安全与对齐部门,成国内首家这么做的实验室 — lxfater ·
- 【源头】字节 Seed 设大模型安全与对齐部门,成国内首家这么做的实验室 — lxfater · 2026-10-13
- 字节 Seed 成立安全与对齐部门,系国内首家独立建制的前沿实验室 — terryyuezhuo · 2026-10-13
- 【源头】字节跳动 Seed 启动 Safety & Alignment 全球顶尖人才招募 — 字节跳动Seed · 2026-10-14
- 字节 Seed 成立模型安全与对齐部门,全球招募 10 位顶尖研究员 — op7418 · 2026-10-15
- 字节 Seed 成立 Alignment Preparedness 部门,全球招募 10 名 AGI 安全研究员 — 机器之心 · 2026-10-15
另有 2 条近重复转述:字节跳动Seed · pstAsiatech