关于 AI 末日论的预期价值计算分歧
noahlt · x · 2026-09-01
针对“末日论者”与其反对者的分歧进行了拆解。作者认为前者是在做 EV（期望值）计算：虽然 AI 毁灭概率 p 很小，但后果 V 极大，因此值得担忧；而后者倾向于认为 p 极小（接近 ε），故应忽略极端风险，专注解决现实问题。作者反驳了将后一种观点简单归结为心理防御机制（cope）的说法，认为这是基于不同概率预期的理性计算。
所属事件:为何人们倾向于否认AI与机器人的潜在影响(3 条相关)→
「漫话AGI」频道最新
- Vladimir 的 AI 时间线预测论点更接地气 — JacquesThibs · 2026-09-01
- 补充：AI 也基本消灭了自由职业插画与文案写作 — moultano · 2026-09-01
- 安全研究者：毁灭性 AI 攻击不需要 SOTA 模型，小模型更易得手 — moultano · 2026-09-01
- AI 舆论从“随机鹦鹉”转向“学会人类破坏性” — FlorianGallwitz · 2026-09-01
- Gary Marcus 呼吁过度吹捧AI者需担责 — GaryMarcus · 2026-09-01
- 观点：政府关注是 AGI 安全的唯一解 — peterwildeford · 2026-09-01