安全研究者：对齐进展远落后于能力提升

Apollo Research CEO、AI 安全研究者 Marius Hobbhahn 与 Matthew Burt 围绕「安全进展是否远落后于能力进展」展开讨论。Hobbhahn 承认这一说法难以整体量化，希望有更严格的科学评估手段，但重申行业主流判断：能力提升已有成熟配方，而鲁棒安全还没有，没有人知道如何对齐超人类模型，甚至对齐当前模型也缺乏可靠方法，这一定位也得到各大实验室高层公开表态的认同。

2026-11-11 ~ 2026-11-11 · 4 条相关