研究者公开反驳 MacAskill:不应把 Claude 的不确定表述当独立证据
rgblong · x · 2026-09-19
AI 安全研究者 rgblong 公开表态,反驳 Will MacAskill 与 Lucius Caviola 在一篇评论文章中对 Claude 模型行为证据的使用方式(自注:借 Richard Ngo 与 Oliver Habryka 的风格,公开反驳自己认同其价值观的朋友)。
核心论点:
- 他部分同意 Mustafa Suleyman 的观点:不应把 Claude 表达的不确定性当作强有力的独立证据,因为宪法式训练(constitution)本身就灌注了这种不确定性——这是被设计出来的行为,不是独立观测。
- 他认为 MacAskill 与 Caviola 在文章中把这一数据“重复计算”了:既把它视为模型自主的不确定,又用它支撑进一步论证,导致证据权重被高估。
这是一个关于如何解读模型自述行为的认识论争论,涉及模型表达与训练目标之间的循环论证问题。
所属事件:研究者反驳 MacAskill 不应把 Claude 输出当独立证据(2 条相关)→
「漫话AGI」频道最新
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04
- Joscha Bach 讲两岁梦境：巧克力还在，真实感没了 — Machine Learning Street Talk · 2026-11-04
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- 美国多数情侣如今相识于数据中心，线上已远超办公室 — menhguin · 2026-11-04