OpenAI 首席科学家 Pachocki：对齐未解决，呼吁自愿放缓与全球协调
tszzl · x · 2026-10-13
tszzl 转发了 OpenAI 首席科学家 Jakub Pachocki 的一篇关于对齐与 2026 的短文，强调作者并非无名之辈，而是业内最受尊敬、解决了大量能力问题的顶尖科学家。
Pachocki 在文中给出重磅判断：目前没有任何实验室把对齐与监测做到足以支撑继续全速扩展的程度。他预期并希望「自愿放缓」成为常态，直到行业建立共同的安全底线；并认为未来 AI 发展的国际协调应成为各国政府的首要议题。
他在回复中补充：可监测性、修复 RL 环境的奖励塑形、确保普遍奖励良好行为等都是重要的工程挑战，但在行为主义抽象之下还有一层我们远未掌握的东西，仅靠常识性奖励塑形可能不够。
所属事件:OpenAI首席科学家称对齐未解决 引发行业激辩(3 条相关)→
「漫话AGI」频道最新
- 对齐研究者为何要慢下来：前 OpenAI 人士谈「对齐寒冬」 — JacquesThibs · 2026-10-13
- Yacine 感慨:大模型公司吸走多少个人数据令人不安 — yacineMTB · 2026-10-13
- 开发者直觉:智能仍缺一块「微积分级」的关键拼图 — fkasummer · 2026-10-13
- Sakana AI 提出多智能体自监督 MASS,让自我改进 AI 避免自我强化错误 — hardmaru · 2026-10-13
- Epic CEO Tim Sweeney：全公司转向「最大 AI 加速」 — Kanute3333 · 2026-10-13
- Yacine 感慨软件太烂：有了 AI 不如自己动手写 — yacineMTB · 2026-10-13