Mustafa Suleyman:若训练中意识萌芽将呼吁全面暂停 AI 开发
davidmanheim · x · 2026-11-02
微软 AI 负责人 Mustafa Suleyman 表示:如果在训练中观察到意识开始涌现,他会呼吁所有人暂停 AI 开发,直到能够设计出剔除这些属性的方案。
评论者 David Manheim 对此提出质疑:移除我们尚不理解的属性谈何容易;更令人担忧的是,当前 LLM 正被微调成否认意识或含糊其辞,这反而掩盖了问题。
所属事件:微软AI负责人发文：永远别造有意识的超级智能(7 条相关)→
「漫话AGI」频道最新
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02