灭世概率超 10% 却还在领导对齐团队？AI 圈激辩末日论调
mertdumenci · x · 2026-09-09
NaderLikeLadder 发帖称：如果你公开给「十年内人类灭绝」设定超过 10% 的概率，就有义务解释这个数字怎么算出来的、什么证据会让你改变看法，并对渲染恐慌的做法表示失望，称这波技术浪潮需要「成年人看护」。mertdumenci 附议，指出「我所在的公司可能很快杀死所有人，而我还在领导对齐工作」是一个不加解释就无法自洽的立场。
所属事件:AI 圈激辩末日概率：呼吁公开 P(doom) 推导过程(3 条相关)→
「漫话AGI」频道最新
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- 斯坦福 AI 经济指标项目盘点：四块仪表盘追踪 AI 对就业与经济的影响 — RishiBommasani · 2026-10-27
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 深度学习先驱警告：别再对下一项颠覆技术重演「不信—失备」循环 — jachiam0 · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27