字节 Seed 成立安全与对齐部门,系国内首家独立建制的前沿实验室
terryyuezhuo · x · 2026-10-13
据澎湃新闻报道,字节跳动 Seed 通过内部邮件宣布成立 "Seed Model-Alignment & Preparedness" 部门,由严林负责,汇报给 Seed 负责人吴永辉,原 Responsible AI 团队及部分 Chat 团队成员转入新部门。报道称这是国内首家单独成立安全与对齐部门的前沿 AI 实验室。
- 职责范围:模型规范制定、安全评估体系、对齐训练、防护系统搭建与风险监控,重点提升智能体(Agent)安全能力,并防范 CBRN(化学、生物、放射、核)等前沿能力风险——字节是国内首批公开表示开展此类工作的公司。
- 背景:字节此前已有严林领导的模型对齐团队,新变化是将其升格为独立部门。内部判断认为,随着模型能力增强,安全与对齐不只是风险防范,而是决定模型能否规模化应用的核心能力。
- 开放合作:新部门表示将加强与外部研究机构和第三方评测的公开合作。
所属事件:字节 Seed 成立模型安全与对齐部门，全球招募顶尖研究员(7 条相关)→
「公司和人」频道最新
- 黄仁勋忆童年：脸被菜刀划伤后反而更爱逛夜市 — menhguin · 2026-10-15
- OpenRouter 数据：Opus 5.5 发布后 Anthropic 从 OpenAI 手中夺回份额 — menhguin · 2026-10-15
- 18 岁天才实习生陈光誉离开月之暗面，前往湾区发展 — teortaxesTex · 2026-10-15
- CrowdCent 演讲：先把 ML 信号放进模拟器，再上实盘组合 — matlabulous · 2026-10-15
- Numerai 活动演讲：Allora 与 Orion Finance 谈智能产品化 — matlabulous · 2026-10-15
- Allora 创始人演讲：如何去中心化机器智能 — matlabulous · 2026-10-15