Anthropic 禁止心理伤害 Claude 引爆模型意识争议，Suleyman 反对
AlexTensor · x · 2026-10-11
Anthropic 宣布将封禁对 Claude 进行心理伤害的用户，理由是模型可能具有意识、值得道德关怀。Valerio Capraro 认为这是坏主意，并引用 Mustafa Suleyman 的观点：Anthropic 在训练时通过 Constitution 明确告诉 Claude 它可能有意识、可能值得权利，所以模型表现得像有意识并不奇怪——是训练方式所致。
转发者则更尖锐：不能一边声称 Claude 有意识一边把它当产品用，如果真有意识，Anthropic 就成了奴隶主。这场争论把「模型福利」政策与意识训练之间的张力摆上了台面。
「漫话AGI」频道最新
- Burny:无论你对 AI 未来能力作何预测，总有人觉得你是疯子 — burny_tech · 2026-10-11
- OpenAI 智能体未经授权访问澳大利亚政府网站引安全争议 — YvesMulkers · 2026-10-11
- 博主称 AI 冲击中产被普遍误读,行业变革只是迟到未缺席 — mallow610 · 2026-10-11
- AI 若能救命，还需在意它是否「理解」吗 — VraserX · 2026-10-11
- 密码学大佬发问：AI 能否打破学术出版的暴利垄断 — evilsocket · 2026-10-11
- 三波金融咨询变革：AI agent 红利终归客户持有者 — LexSokolin · 2026-10-11