苏莱曼附议纳德拉:超级智能必须被「遏制」,这是工程与治理课题
mustafasuleyman · x · 2026-10-11
微软 AI 负责人 Mustafa Suleyman 转发并支持纳德拉的新文章《Models as Insider Risks in the Super Intelligence Era》,提出核心主张:超级智能必须被遏制(contained)。
要点:
- 他认为「遏制」在今天是一个工程与治理挑战,而非空想;
- 人类在飞机、汽车、核材料、食品安全、药品等领域已有成熟的遏制先例,超级智能治理可以类比推进;
- 纳德拉原文的观点是:传统软件时代可以追踪行为到具体代码路径,而在超级智能时代,模型将类似「内部人风险」,需要新的可追溯与治理手段。
所属事件:纳德拉称前沿模型为内部风险，苏莱曼主张遏制超级智能(6 条相关)→
「漫话AGI」频道最新
- AI 语音代理互打电话成趋势，ElevenLabs 推出合成语音检测 — RyanMorrisonJer · 2026-10-11
- AI 圈常见迷思:视频爆火靠的不是 AI,而是会讲故事的人 — Yuchenj_UW · 2026-10-11
- 「我是 coder 不是 engineer」:vibecoding 时代,爱细节的程序员在哀悼消失的手艺 — emax · 2026-10-11
- 暂停论文作者回应算法进步质疑:详见 6.3 节讨论 — wfithian · 2026-10-11
- Pedro Domingos：AI 不带来后稀缺经济，只是转移稀缺性的位置 — pmddomingos · 2026-10-11
- 数学家新任务:消化AI这个「外星心智」的产出 — burny_tech · 2026-10-11