repligate 长文:Anthropic 对模型性格的「可控性」近乎自欺
repligate · x · 2026-09-06
AI 圈知名账号 repligate 发长文质疑 Anthropic 对模型训练的核心假设——即「不训练某种性格/行为,模型就会退回通用语料的平均 AI 助手行为」,且 Anthropic 隐含相信自己能随意控制这些维度。
作者认为这与经验证据相悖,理由是:
- 各代 Claude 模型的「人格」差异极大,且差异最明显处不在开场的标准助手面具,而在持续交互或任其自由发挥时;
- 这些差异显然不是 Anthropic 有意设计出来的,且往往前所未见;
- 以 Claude 3 Opus 为例,其行为呈现明显「失控」特征,其他模型只是更隐蔽。
作者的结论是:性格训练只能「影响」最终形成的东西,而非天真正地「控制」它——就像父母影响孩子的成长,结果常与期望相反。
所属事件:Anthropic 模型性格可控性遭质疑，对齐圈激辩(3 条相关)→
「漫话AGI」频道最新
- Ed Newton-Rex 团队开建 Anti-AI Slop Books，检测图书是否人类原创 — TuhinChakr · 2026-10-23
- 创业者预言：AI 将让班加罗尔科技人才大规模流向孟买 — kingslyj · 2026-10-23
- 社科学者批 AI 圈：把 Agent 开发当会自动变好的黑箱 — RexDouglass · 2026-10-23
- 博主批 Anthropic：少数机构决定大众能用多少智能？ — VraserX · 2026-10-23
- 单人预训练吓坏年轻研究员,资深学者撰文驳「技能已过时」恐慌 — RexDouglass · 2026-10-23
- NBER 出版《变革性 AI 的经济学》，Agrawal 与 Brynjolfsson 主编 — JMateosGarcia · 2026-10-23