阿里云创始人王坚称不信 AGI,Yampolskiy 断言超级智能无法被控制
alex_verem · x · 2026-09-03
在 AI for Good 峰会上，「AI 安全」术语提出者 Roman Yampolskiy 与阿里云创始人王坚同台对谈，两人互相问出了对方最难回答的问题。
- Yampolskiy 问王坚：如何精确规划对通用超级智能的长期控制？王坚直接回应自己根本不相信 AGI——AI 就是 AI，能力随时间增长，AGI 这个标签只是让人焦虑；你造出比以往更强的系统，然后走完这个过程。
- 王坚反问 Yampolskiy：做安全研究，如何在不拖慢发展的前提下让 AI 安全？Yampolskiy 也不留情面：他的研究结论是高级 AI 没有安全解，这是个不可能问题，如同造「永动机」——因为你需要控制之后的每一个模型。他的主张是停止构建通用超级智能，把加速投入可测试、可监控的窄域工具。
一个说这东西控制不了，一个说这东西不存在。
「漫话AGI」频道最新
- 伦理学金句：出于后果主义的原因，做义务论者 — JacquesThibs · 2026-10-18
- 转发观点：未来会像笑「相机偷灵魂」一样笑 LLM 智能论 — TimDarcet · 2026-10-18
- 观点交锋：AI 拉不动 GDP 曲线，太空复制经济才能 — alz_zyd_ · 2026-10-18
- Chris Albon:未来 20 年将是「人类工作终结」论调与持续新任务的拉锯 — bradneuberg · 2026-10-18
- Coevolution 大会12月湾区办:大厂研究员与神经科技 futurist 共探人机协同进化 — bradneuberg · 2026-10-18
- Yacine 谈 RL 算法：比预训练 scaling law 更接地气的工程美学 — yacineMTB · 2026-10-18