灭世概率超 10% 却还在领导对齐团队？AI 圈激辩末日论调
mertdumenci · x · 2026-09-09
NaderLikeLadder 发帖称：如果你公开给「十年内人类灭绝」设定超过 10% 的概率，就有义务解释这个数字怎么算出来的、什么证据会让你改变看法，并对渲染恐慌的做法表示失望，称这波技术浪潮需要「成年人看护」。mertdumenci 附议，指出「我所在的公司可能很快杀死所有人，而我还在领导对齐工作」是一个不加解释就无法自洽的立场。
「漫话AGI」频道最新
- 既信 AI 会灭世又留在实验室?业内人呼吁给研究员多一点宽容 — JacquesThibs · 2026-09-09
- 研究者撰文主张适度拟人化 AI：从狗和鹦鹉说起 — manoelribeiro · 2026-09-09
- 陶哲轩警告:点子即被抢发,数学等学科或将集体沉默 — windx0303 · 2026-09-09
- 学者完成 ARR 审稿：AI 审稿已普遍，亟需审稿质量基准 — ChenhaoTan · 2026-09-09
- 个人 Agent 大战核心问题：你的数据归谁、你信谁托管？ — MartinGTobias · 2026-09-09
- Ethan Mollick 重提 Wait Calculation:有些难题现在最好先别做 — emollick · 2026-09-09