AI 安全学者称人类可谈判缔约管住 ASI 竞赛风险
davidmanheim · x · 2026-09-15
davidmanheim 在与 Luca DellAnna 的讨论中提出:人类达成一份真正管住 ASI 竞赛风险的全球条约是可能的,路径是——公开主张应该这么做、指出其符合各方激励,然后关键是不预先放弃。DellAnnaLuca 质疑:与「坏人」谈判真能让他们停下吗?并认为「普遍对齐、普遍拒绝」的假设今天并不成立,没有任何论证表明把 AI 扩展到人类无法监督控制的范围会更安全。davidmanheim 回应称赢下通向毁灭的竞赛对他没有吸引力,「好人不扩展、坏人随便扩展」无助于降低风险。
所属事件:AI安全圈激辩：灭绝叙事与ASI风险该如何向政策制定者沟通(9 条相关)→
「漫话AGI」频道最新
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- 作者类比电影《永无止境》:超级智能对高智商者增益更大 — McDonaghMatthew · 2026-11-02
- 谁把「用 AI 治愈癌症」讲得最具体？2025 年路线图正在成形 — iskander · 2026-11-02
- Miles Cranmer 讲座:AI 用对是苏格拉底导师,用错是大脑萎缩 — _ScottCondron · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- Vitalik 提「后 AI 密码学」：假名已死，逐次匿名当立 — devanshmehta · 2026-11-02