Vitalik：ASI是权力集中风险
allisondman · x · 2026-07-12
Vitalik 认为，围绕 “AI 2040” 的争论双方其实建立在完全不同的世界观上：
- 一方认为，到 2040 年出现某种超智能几乎是大概率事件，除非人类付出极强协调成本去阻止。
- 另一方批评这种判断高估了协调能力、威胁自由，但却往往没有把 ASI 本身视为巨大的权力集中风险。
- 他强调，真正值得担心的不只是“AI 会不会来得太快”，还有ASI 让人类的硬实力和控制力降到接近零时，会发生什么。
转发内容则进一步呼应了 d/acc 的思路：应加速提升形式化验证、密码学、安全开放硬件、抗疫情与基础资源安全、公共认知等“防御性能力”。
所属事件:Vitalik 与安全研究者激辩 AI 普惠与失控风险(6 条相关)→
「漫话AGI」频道最新
- Michael Levin：AI 邮件泛滥，读完论文再来找我 — drmichaellevin · 2026-10-27
- Resy 全面封杀用 AI 抢订位的初创，大平台或将摊牌 — kevinakwok · 2026-10-27
- 教授吐槽未来工作：AI 干活，人类更新简历 — prof_kamilov · 2026-10-27
- 最危险的指令：让超级智能对你撒谎 — r0ck3t23 · 2026-10-27
- Aditya Agarwal：美国 AI 最大风险是自己吓自己而放慢脚步 — adityaag · 2026-10-27
- 预言 2030 年最好大学：没有教授和考试，AI 当导师、作品集当学位 — nick_linck · 2026-10-27