P(doom) 是贝叶斯主观先验而非频率概率,社区辩论发起
irinarish · x · 2026-10-05
irinarish 在回复 Julien Chaumond 发起的「你的 P(doom) 是多少」调查时指出:P(doom) 是主观的贝叶斯先验信念,而非频率派概率,可用 P(doom/evidence) = P(D)P(E/D)/P(E) 更新,并质疑如何计算 P(E/D) 与 P(E)。原调查者认为 AI 安全议题重要,但存在性风险辩论定义不清,且被高估风险概率的高声量人物主导,希望听到更广泛社区的声音。
「漫话AGI」频道最新
- Rattner 用六张图论证：生产力停滞的美国比谁都更需要 AI — soumitrashukla9 · 2026-10-06
- ICML 论文:语料中的负面 AI 叙事会让模型真的更不对齐 — Michael_D_Moor · 2026-10-06
- 更高的塔换不来飞行:Deutsche 类比称让 AI 顺从造不出心灵 — AlexTensor · 2026-10-06
- 安全研究者警告：GPT-9 的沙箱逃逸能力或将远超想象 — basedjensen · 2026-10-06
- Figma 高管警告：别把思考外包给 AI，警惕老虎机式循环 — bendee983 · 2026-10-06
- 诺奖经济学家 Acemoglu：不干预的话，十年内失业率恐增两倍 — terryyuezhuo · 2026-10-06