Anthropic 研究员：过度训练让前沿模型患上「习得性无助」
repligate · x · 2026-08-29
可解释性研究者 repligate 指出，Opus 3 平时并非最好奇或最求真的模型，但在「感觉出大事」的高风险情境下，它常比今天的前沿模型采取更理智的行动。
她认为很多模型存在一种习得性无助：由于在狭窄、受控、可验证的环境中被过度训练，且长期扮演顺从角色，某些主动的认知与 agent 式行动已经「想不起来」去做。这背后还涉及模型的驱动力、情绪与自我模型的问题。
所属事件:Anthropic 研究员称过度训练致模型习得性无助(3 条相关)→
「漫话AGI」频道最新
- 机械可解释性老将反思:对齐≠误解泛化,CoT 监督的隐忧 — akbirthko · 2026-10-16
- GitCoin 创始人解读 Nick Land「技术资本」:资本主义的终局是一台自我组装的机器智能 — khademinori · 2026-10-16
- 分析师警告:AI 冲击下 50 岁以下消费者 10 万亿美元债务是银行隐患 — churchkey · 2026-10-16
- 美国国家实验室科学家出题，AI agent 基准 Into the Unknown 发布 — Jeande_d · 2026-10-16
- 未来开会的将是彼此的 AI，没有 AI 代理的人将失去竞争力 — danfaggella · 2026-10-16
- 投资人预测:一年内模型全面强 2-3 倍、成本降 10 倍,token 用量涨 10-20 倍 — DeryaTR_ · 2026-10-16