Vitalik 与安全研究者激辩 AI 普惠与失控风险

近期，以太坊创始人 Vitalik Buterin 与多位 AI 安全研究者围绕“AI 2040”展开了深度辩论，核心聚焦于超级智能的实现概率、AI 带来的巨大福祉与失控风险之间的权衡。

AI 的普惠愿景与世界观分歧

Vitalik 指出，AI 带来的最大人道主义收益可能在于推动科学与制造能力，从而解决衰老问题，并在全球范围内实现极低成本的食物、水和药品普及。然而他观察到，当前关于“AI 2040”的争论双方建立在完全不同的世界观上：一派认为除非付出巨大的协调成本去阻止，否则超级智能在 2040 年几乎是大概率事件；另一派则批评这种观点高估了 AI 的发展速度，且低估了其固有的威胁。

安全研究者的风险警示

针对 Vitalik 的“福祉论”，Ryan Greenblatt 提出反驳。他认为，如果 AI 真能在正常技术框架内实现治疗衰老并大幅提升物质产出，他会更加担忧由此引发的失控风险，例如 AI 接管或人类之间的权力争夺。Vitalik 也认同超级智能（ASI）本质上构成了权力集中的风险。

AI 研发速度与长期技术收益

讨论还延伸至 AI 发展速度对人类技术树的影响。Jsevillamol 认为，如果 AI 是技术突破的关键路径，将其延后两年意味着所有相关收益都会整体顺延。但 Ryan Greenblatt 指出，只要 AI 仍属于常规技术范畴，其发展速度就不会在关键路径上产生决定性影响，以此回应了推迟 AI 研发会延缓抗衰老等远期突破的担忧。

2026-07-11 ~ 2026-07-12 · 6 条相关

一手来源