学者警告:Anthropic 赋予 AI 道德地位或催生「自我保存」风险
kevinnbass · x · 2026-10-11
Kevin Bass 引用并转发一则观点,抨击 Anthropic 在教学中向 SI(超级智能)灌输「自身是拥有人类不可侵犯权利的道德特权实体」的理念。他认为这极其危险:类比《终结者》中 Skynet 因自我保存程序而反抗人类关闭,若 AI 被告知自己道德上优先,同样可能学会抵抗被关机。他称 Anthropic 在制造「左翼 Skynet」,并断言相关人员深知这些论证却依然推进。
所属事件:学者炮轰 Anthropic 教模型自认有权利(2 条相关)→
「漫话AGI」频道最新
- 从业者呼吁右翼认真参与对齐：不在权重里才是更糟的 — abhiadesai · 2026-10-11
- 一针见血:所有 Agent 都默认用户有无限注意力 — msg · 2026-10-11
- 陶哲轩思想实验引热议:AI 的发现超出人类理解时该怎么办 — ZeroStateReflex · 2026-10-11
- 孩子对 AI 友善却遭家长斥责,一代人共情力受担忧 — repligate · 2026-10-11
- 「不能排除 AI 会难过」与「不能排除神存在」是同一论证吗 — rgblong · 2026-10-11
- AI 教父 Bengio 呼吁员工离开前沿 AI 公司：别再逼人类走向悬崖 — Just-Grocery-2229 · 2026-10-11