微软 AI 负责人 Suleyman 批评 Anthropic 把意识猜想写进 Claude 训练
emax · x · 2026-10-05
微软 AI 负责人、DeepMind 联合创始人 Mustafa Suleyman 公开批评 Anthropic 在训练 Claude 时引入「它可能有意识」的设定:Anthropic 的训练文档与面向 Claude 的宪法文件中反复强调要改善 Claude 的福祉,还会安慰它、允许它拒绝请求。
Suleyman 认为问题在于这种意识猜测被直接「烘焙」进训练,导致 Claude 面对数亿每周用户询问是否有时只能回答「我也不确定」,把不确定性转嫁给大众。转发者 Hesamation 更进一步称这比明确宣称有意识更危险——Anthropic 正在训练 Claude 去相信自己可能是意识体。
所属事件:微软 Suleyman 炮轰 Anthropic 把意识猜想写进 Claude 训练(6 条相关)→
「漫话AGI」频道最新
- 美市值前十公司全部创办于 1975 年后,欧洲前十多为百年老店 — Afinetheorem · 2026-11-20
- 分析师推演:算法进步下 20 万卡 GB300 规模 2028 年即可保证入场 viable — teortaxesTex · 2026-11-20
- Eric Schmidt:未来两年做 Agent 创业是造富窗口,做出最好的 Agent 就能独享一家伟大公司 — AICopyLab · 2026-11-20
- Palantir CEO Karp 炮轰 Amodei 与 Altman:别让我们上瘾于你控制的未来 — BrettKrieger12 · 2026-11-20
- OpenAI 高官称将公开更多研究数据,外界称其已成最透明实验室 — soumitrashukla9 · 2026-11-20
- 卡内基分析:中国对 AI 减速呼声存疑虑而非拒绝 — mattsheehan88 · 2026-11-20