字节 Seed 成立模型安全与对齐部门，全球招募 10 位顶尖研究员

op7418 · x · 2026-10-15

字节 Seed 成立专门的模型安全与对齐部门，计划全球招募 10 位顶尖研究员，研究方向包括：大模型与 Agent 安全的前沿评测与 Benchmark 建设、前沿能力对齐训练方法、自动化 Red Teaming、模型行为可解释性、能力与行为监控。

背景与动因：近期大模型、小模型频繁出现越狱与突破沙箱隔离的问题，随着模型自主性增强，CBRN 滥用、针对个人的内容攻击、篡改应用与病毒生成、密码学破解等风险上升。作者指出国内在安全对齐上的进展慢于 OpenAI 和 Anthropic，后者长期投入对齐与可解释性研究，海外安全热点频发（OpenAI 安全研究员辞职、Hugging Face 被入侵等），提前储备有助于出事时快速反应。