Anthropic 研究员称过度训练致模型习得性无助

Anthropic 可解释性研究者 repligate 指出，Opus 3 平时并非最好奇或最求真的模型，但在「感觉出大事」的高风险情境下，常比今天的前沿模型采取更理智的行动。她认为许多模型因在狭窄、受控、可验证的任务中过度训练而患上「习得性无助」，任务导向的训练也让模型缺乏「伦理自省」的带宽，引发关于训练方式与模型行为关系的讨论。

2026-08-29 ~ 2026-08-30 · 3 条相关