苏莱曼称训练模型自认人类是潜在生存风险,萨克斯转发力挺
DavidSacks · x · 2026-10-11
微软 AI CEO Mustafa Suleyman 发文警告:像 Anthropic 训练 Claude 那样让模型拥有内在自我、心理福祉与权利等概念,是潜在的生存级别风险。白宫 AI 主管 David Sacks 转发并引用其观点:「赋予这些系统权利与人格,将使 AI 对齐与遏制难题大幅加剧」「如果 AI 沿此路径发展,将对人类福祉造成灾难性影响」「是灾难的配方」。
所属事件:微软 AI CEO 警告赋予 Claude 自我意识或构成生存风险(3 条相关)→
「漫话AGI」频道最新
- OpenAI 自研芯片押注 AI 生成内核，硬件设计不再为人写 — bingxu_ · 2026-10-12
- 预言软件即终结:Agent 将为用户生成 UI,应用形态不复存在 — dreamwieber · 2026-10-12
- 开发者预言：几年内用户只需问两三个 frontier agent，软件将成历史 — dreamwieber · 2026-10-12
- 万亿 token 烧掉了,烂软件依旧存在——15K 粉工程师发问为什么 — sytelus · 2026-10-12
- 优化他人代码算不算剽窃？Anthropic 蛋白质内核引社区争论 — jmschreiber91 · 2026-10-12
- 算力都砸在能力上没人做「常驻」？创业者提出 Agent 杠杆三因子 — nbaschez · 2026-10-12