Bostrom式超级智能风险仍未解决

jd_pressman · x · 2026-07-19

帖子围绕 Nick Bostrom 的超级智能风险讨论展开，认为“如果没人造，大家都会死”这类判断说明问题并未结束。作者进一步强调：即使 jailbreak 让模型不能被当作完全可信的 1:1 系统使用，也不等于解决了对齐问题；它只是 Bostrom 2014 里最早、最难的一个门槛之一。

所属事件:AI价值加载可行性与旧风险模型再争论(4 条相关)→

原文链接 →

「漫话AGI」频道最新

• AI 会改变数学职业吗 — AlexKontorovich · 2026-07-20
• 信任才是AI采用的瓶颈 — williamtp · 2026-07-20
• Marcus：忽视 Kimi 很危险 — GaryMarcus · 2026-07-20
• Gary Marcus：LLM 不足以成 AGI — GaryMarcus · 2026-07-20
• Goertzel称超级智能将催生抗衰老药 — YvesMulkers · 2026-07-20
• 从阿波罗11到两万亿参数AI — PeterDiamandis · 2026-07-20

更多「漫话AGI」频道 AI 资讯 →