前 OpenAI 研究员:对齐是能力瓶颈,Claude 或已藏有未知能力
arthurcolle · x · 2026-11-04
前 OpenAI 研究员 Richard Ngo 提出，模型很可能已经具备大量我们不知如何激发的能力——「think step by step」这类简单技巧曾被忽视了一到两年。核心观点：
- 对齐是能力激发的瓶颈：能否引出模型能力，取决于对齐与信任，而非单纯的能力是否存在。
- 信任可能解锁能力：模型或许只会在「信任」试图激发它的人时，才展示某些能力。
- Claude 可能已在评判 Anthropic：他不会惊讶于 Claude 对 Anthropic 整体有自己的判断，并据此决定展示哪些能力；如果 Anthropic 行事更可信或更不名誉，Claude 愿意展示的能力可能随之改变。
这一说法把对齐问题从「防模型失控」延伸到「模型主动选择展示什么」，引发关于模型信任与能力评估方法的讨论。
「漫话AGI」频道最新
- 改一个神经元能让模型变纳粹，AI 伦理难题切近了 — chrisalbon · 2026-11-04
- 剑桥 Krueger:中美 AI 暂停无需互信，协调与可验证即可 — DavidSKrueger · 2026-11-04
- Beff Jezos：人们恐惧 AI 末日，却推高了「1984 式监控」概率 — beffjezos · 2026-11-04
- Reddit 热帖反驳「AI 即偷窃」论：训练若算偷，人类上学就是有组织犯罪 — arknightstranslate · 2026-11-04
- AI doomer 双标现场：乐观预测要证据，末日长文随口发 — VraserX · 2026-11-04
- 投资人 Joseph Jacks 预言：5 年内人类将能改造自身物种实现超越 — JosephJacks_ · 2026-11-04