对齐研究员：不减速 AI，灭绝风险超 10%

可解释性/对齐研究员 Arthur Conmy 表态，如果 AI 能力发展不整体放慢或暂停，他认为灭绝风险概率 p(doom) 大于 0.1。他并不主张必须实现「完美对齐」，核心担忧是模型在稀有输入下可能出现极度失控的行为。不过他也指出，对齐领域其实已有大量「ready to go」的具体任务可以立即推进。

2026-09-23 ~ 2026-09-23 · 2 条相关