AI 安全学者称人类可谈判缔约管住 ASI 竞赛风险
davidmanheim · x · 2026-09-15
davidmanheim 在与 Luca DellAnna 的讨论中提出:人类达成一份真正管住 ASI 竞赛风险的全球条约是可能的,路径是——公开主张应该这么做、指出其符合各方激励,然后关键是不预先放弃。DellAnnaLuca 质疑:与「坏人」谈判真能让他们停下吗?并认为「普遍对齐、普遍拒绝」的假设今天并不成立,没有任何论证表明把 AI 扩展到人类无法监督控制的范围会更安全。davidmanheim 回应称赢下通向毁灭的竞赛对他没有吸引力,「好人不扩展、坏人随便扩展」无助于降低风险。
所属事件:安全圈激辩AI风险叙事：灭绝论还是灾难论更能推动政策(7 条相关)→
「漫话AGI」频道最新
- 又一名 Google AI 安全研究员离职,警告人类可能面临生存风险 — Puzzleheaded-King584 · 2026-09-15
- 资深企业科技评论人:AI 实验室集体喊「减速」是精心包装的公关转向 — DavidLinthicum · 2026-09-15
- Stewart Alsop 质疑 Netflix AI 末日纪录片：末日论是营销套路 — StewartalsopIII · 2026-09-15
- Netflix AI 纪录片上映两天后,英王召集 OpenAI 等起草 AI 宪章 — StewartalsopIII · 2026-09-15
- 60 余位欧洲专家警告:欧盟仅占全球 AI 算力 5%,美国占 75% — anselm · 2026-09-15
- Ben Goertzel 硬怼 Dario 的 AI 放慢提案:现实不会答应 — bengoertzel · 2026-09-15