字节 Seed 设大模型安全与对齐部门，成国内首家这么做的实验室

lxfater · x · 2026-10-13

据第一财经报道及博主 lxfater 转述，字节跳动 Seed 将单独设立大模型安全与对齐部门，为国内首家这么做的前沿 AI 实验室。背景是 AI 逆向滥用愈演愈烈：AI 移植《塞尔达》到 iOS、逆向独立开发者产品、高中生用 AI 攻击韩国金融机构等。摘要要点：对齐是让模型行为符合人类意图并遵守安全约束；流程含模型规范、安全评估、对齐训练与防护监控，需随模型更新持续迭代；据报道该部门还将关注 CBRN 前沿风险并与外部机构合作。