Dan Robinson:别把「安全 AI 曼哈顿计划」全押在对齐上,对齐了也危险
michael_nielsen · x · 2026-11-19
Dan Robinson 在转发 Michael Nielsen 的 ASI 风险文章时补充观点:对齐是一个极其困难且诱人的研究问题,因此太多「安全 AI 曼哈顿计划」式的构想把重心全放在对齐上;但即使 ASI 完全对齐,它依然极度危险且具有颠覆性。这一观点呼应 Nielsen 的核心论点——ASI 的根本风险在于其赋予的原始力量,而非仅仅失控问题。
「漫话AGI」频道最新
- Michael Nielsen 长文:ASI 真正的风险不是失控,而是它赋予的原始力量 — michael_nielsen · 2026-11-19
- 学者建议:AI 治理报告应补测「人类能理解多少自动化研究成果」 — ronbodkin · 2026-11-19
- Stripe 机器购买协议日处理数万笔交易,agent 商业加速落地 — jeff_weinstein · 2026-11-19
- Gallup 调查 16 国 1.6 万青年:33% 已拥有 AI 伴侣 — Grady_Booch · 2026-11-19
- 芝大研究:加大思考力度只提升购物 AI 的自信,不提升正确率 — Uchicago · 2026-11-19
- Amodei 建议高中毕业生学用 AI:一半入门级白领岗位 1-5 年内受冲击 — alvelda · 2026-11-19