质疑「10% 全员灭绝」论:核心假设亟待科学审视
lucasmeijer · x · 2026-09-09
作者认为,围绕「AI 有 10% 概率导致所有人死亡」这类说法,人们应该更愿意去探究其背后的理性、信念与假设——不是生物风险,而是关于智能本质、权力的理解、工具性收敛、Omohundro 驱动、适应度搜索、演化论应用于模型等核心预设。
- 他感到困惑:几乎没人认真写文章把这些核心信念讲清楚、开放给更广泛的科学审视。
- 他点名 IABIED(《If Anyone Builds It, Everyone Dies》)不是这样的例子;多数流行文章把读者当傻瓜,喂基础类比和比喻,本质是说服练习。
- 结论:目前相关产出大多偏向倡导和「领域建设」,而非严肃论证。
「漫话AGI」频道最新
- 「AI 参加人类编程比赛是营销噱头」:没人看人和汽车赛跑 — gerardsans · 2026-09-09
- OpenAI 竞技编程碾压人类，网友激辩机器与人类能力边界 — gerardsans · 2026-09-09
- dhh 犀利点评：睁大眼睛看，AGI 其实已无处不在 — Dan_Jeffries1 · 2026-09-09
- OpenAI 竞技编程碾压人类，网友激辩机器与人类能力边界 — gerardsans · 2026-09-09
- 研究者讽 AI 险情时厂商将称不可预见的悲剧 — NC_Renic · 2026-09-09
- 指数级增长的是输入不是智能:AI 进步说法遭质疑 — binarybits · 2026-09-09