P(Doom) 概念有缺陷:毁灭概率取决于社会的反应函数
binarybits · x · 2026-09-25
-.binarybits 指出 P(Doom) 作为一个概念的根本问题:它依赖于社会的反应函数。
- 在维持现状的 AI 政策下,P(Doom) 很可能远高于政府采取果断行动情景下的 P(Doom)。
- 更微妙的是,任何时点政府是否采取果断行动,本身又部分取决于人们对 P(Doom) 的判断——形成自指的反馈循环。
所属事件:P(Doom) 是坏问题：末日概率取决于社会反应(3 条相关)→
「漫话AGI」频道最新
- 安全研究者批「能力与风险并重」论：风险评估必须排优先级 — ambaonadventure · 2026-09-25
- Nature 报道:AI 智能体涌向科研人员,求合作甚至要钱 — ChuckDBrooks · 2026-09-25
- 开源模型真的追得上闭源吗?中国模型崛起动摇美国领先叙事 — lol2funneeee · 2026-09-25
- AI 观察式学习能否替代动手技能?研究者激辩生物实验自动化 — suragnair · 2026-09-25
- 黄仁勋质疑 AI 实验室末日论：一边喊失控一边狂堆算力？ — basedjensen · 2026-09-25
- 网友争论：说 Claude「正在崩溃」意味着什么 — ryunuck · 2026-09-25