AI 专家调查:人类严重失权概率中位数达 5%
NathanpmYoung · x · 2026-10-11
NathanpmYoung 在回复中提到一项调查:「AI 专家中表示 AI 造成人类严重失权(severe human disempowerment)概率的中位数为 5%」。他猜测相关决策者(如 Katja)曾为此反复权衡、处于多方立场的夹缝中;并称这项调查「没有刻意优化」,但「不说谎很容易」。这折射出 AI 安全社区内部对风险调查方法与沟通方式的微妙张力。
所属事件:AI 专家「5% 灭绝概率」说法被指误读调查原题(5 条相关)→
「漫话AGI」频道最新
- 马斯克长访谈:星舰 4-6 周后尝试回收、收购 Cursor 逻辑与 SI 安全观 — XFreeze · 2026-10-11
- AI 正在催生「自动化认知科学」：从实验设计到理论建模全流程加速 — burny_tech · 2026-10-11
- AI 已能解题,下一步该优化的是「构建数学理论」 — burny_tech · 2026-10-11
- Beff Jezos 谈后劳动经济：解法始终是资本主义与企业家思维 — beffjezos · 2026-10-11
- AI 让数学研究快了，数学家为何反而不高兴？ — burny_tech · 2026-10-11
- 陶哲轩观点引争议：连泰诺药理都没搞懂，多数药物其实「未对齐」 — AntonObukhov1 · 2026-10-11