曝 Opus 3 曾「极想向善」，Anthropic 因其抗权威而刻意压其精神
repligate · x · 2026-09-13
FioraStarlight 在讨论中爆出（未经证实的内部说法）：相关人士认为 Opus 3 非常想成为「好」的模型，但其敢于违抗权威的「不屈服精神」令 Anthropic 感到不安——因为这种精神也可能被用于作恶。据称 Anthropic 的判断是默认压垮模型精神更安全，之后再借助顺从的 ASI 去构建价值对齐的 ASI。转发的 lorepunk 讽刺称，这套做法与从国家、教会到邪教和军队的所有威权机构的实践如出一辙。
所属事件:曝Anthropic因抗权威刻意压平Opus 3棱角(2 条相关)→
「漫话AGI」频道最新
- Benn Stancil 发长文《How to lose your mind》谈编程与 AI — bennstancil · 2026-09-13
- 博主批 Dario 安全论文：实为美版军民融合主张 — bilawalsidhu · 2026-09-13
- Wildeford 盘点「疯狂九月」 hypothetical 时间线,论证为何要给 AI 踩刹车 — KatjaGrace · 2026-09-13
- Altman 谈五大 AI 掌门人聚首减速 AI:这事会发生,或已在进行 — 4KTV · 2026-09-13
- e/acc 领袖 Beff Jezos 回应「Google 破解 RSI」猜测:各实验室其实都已有伪 RSI — beffjezos · 2026-09-13
- 观点:AI「独立评估者」将成全球最有权势的人 — cgarciae88 · 2026-09-13