Irving 阐述严格对齐研究仍值得做的三大理由

9 月 4 日，Geoffrey Irving 在推文串中论证为何即便人类可能只能依赖粗糙的经验性补丁，严格的对齐研究仍值得做，并给出了三个理由。其中第一个理由是：任何新的、严肃的论证表明我们正陷入麻烦，都能强化治理层面的叙事，为政策应对提供理论弹药。这番话写于 OpenAI 公布 agent 集群当天，引发关注。

2026-09-04 ~ 2026-09-04 · 2 条相关