扎克伯格称对齐是自然激励，反对为安全放慢能力进展

austinc3301 · x · 2026-09-16

扎克伯格发文谈 AI 实验室的安全责任：每个实验室都有责任和动力以安全所需的速度训练模型。他的核心论点是——与用户不对齐、不听指令的 agent 没人会用，因此市场会自然激励实验室提升模型对齐性。

对于「在 alignment 追上来之前放慢能力进展」的争论，他的观点是：信任与对齐正迅速成为区分 agent 和模型的最重要能力。Kevin Roose 转发并调侃称，无论党派和流派立场如何，大家应该都会同意扎克伯格是保护大家免受新技术伤害的最佳人选——语带讽刺地呼应其公关意图。