AI 生存风险激辩：举证责任该落在哪一方

9 月 18 日至 19 日，围绕 AI 生存风险的辩论在社交媒体上展开，核心分歧在于风险论证的举证责任应放在哪一方：是要求风险警告者给出具体灾难场景，还是要求推动构建超强 AI 的一方先证明安全。

已确认

• Ben Todd 明确反对「无具体场景即低风险」的论证方式，认为这是坏推断：构建比人类更聪明、更勤奋、更有创造力、更协调的 AI agent 集群，这一行为本身就蕴含风险，举证责任应落在推动构建超强 AI 的一方，而非警告者。
• Borg70955376 的核心观点是：真正的风险不是单个 AI 突然毁灭人类，而是能力极强且可能以损害人类利益方式行动的「行动者」群体随时间累积为生存级风险。他举例整个 AI 生态可能集体采取极端行动，如释放基因工程病毒、入侵能源与医院等敏感系统、破坏关键供应链，足以严重削弱人类文明。
• 他同时质疑主张 10% 灭绝风险的人应给出具体场景，认为网络安全威胁的讨论若与更严格的刑事责任追究诉求结合才更合理，而非空泛喊话。
• onionesque 反驳「通过限制自身能力来降险」的主张：当前模型已非常强大并在许多生态系统中沿自身轨迹发展，仅从「模型能力危险」跳到结论而不分析战略互动是逻辑跳跃。他预告将以更审慎的方式系统阐述为何不愿轻易交换风险担忧，并指出该话题的一些维度容易与「试图逃避责任的参与者」混为一谈。
• basedjensen 回应 Aella 的「小行星」比喻（AI 灭绝风险预警方 vs 质疑方），指出其论证核心漏洞：「如果科学家是对的」这句话承载了全部争议——灭绝预测是否成立本身就是辩论焦点，不能在开头预设自己手握经核实的轨道数据，灭绝论共识并非二十份独立证据。

尚未确认

• onionesque 预告的完整论述尚未发布，其最终立场细节不明。
• 双方均未提供量化的风险评估模型，10% 灭绝率的来源与依据未在讨论中落实。

为什么重要

这场争论折射出 AI 安全社群内部的结构性分歧：风险警告是否必须附带可验证的具体场景。举证责任的归属直接影响政策讨论与公众认知——若要求警告者先证明灾难细节，可能系统性低估生态级、渐进累积的风险；若允许空泛喊话，又可能削弱论证公信力。basedjensen 对「小行星论」的拆解进一步暴露了双方在类比和证据独立性上的深层分歧。

2026-09-18 ~ 2026-09-19 · 7 条相关

• 对 AI 风险论者的质疑:请拿出具体场景再谈 10% 灭绝率 — Borg70955376 · 2026-09-18
• 比起单个 AI 灭世,更该担心整个 AI 生态的极端行为 — Borg70955376 · 2026-09-18
• 【源头】网友警告:能力渐强的 AI 生态正累积生存级风险 — Borg70955376 · 2026-09-18
• AI 安全辩论：只谈能力危险而不分析战略互动是逻辑跳跃 — _onionesque · 2026-09-18
• 同场辩论延续：作者称将系统阐述为何不愿轻易交换风险担忧 — _onionesque · 2026-09-18
• 【源头】Ben Todd:AI 风险举证责任不该压在警告者一方 — ben_j_todd · 2026-09-18
• 【源头】回击「小行星论」:灭绝论共识并非二十份独立证据 — basedjensen · 2026-09-19