Bostrom：长期暂停 AI 反而可能害死更多人，「我们在等待中死去」
zetalyrae · x · 2026-10-09
牛津人类未来研究所创始人、《超级智能》作者 Nick Bostrom 在访谈中提出：对 AI 长期暂停的代价可能超过其收益——如果超级智能能治愈衰老，每等待一年都意味着大量死亡，「我们只是在等待期间死去」。他还谈到 AI 意识、工具性收敛、为何 AI 公司会是失控 AI 的第一个目标，以及为什么做得很差的暂停可能适得其反，并称我们目前只探索了「心智可能性空间里的清洁工储物间」。
「漫话AGI」频道最新
- 数学家感叹 AI 让数学领域过时,媒体却集体失声 — DavidSKrueger · 2026-10-09
- 开发者手写 200 行 Go 代码:久违地感到大脑在运转 — haydendevs · 2026-10-09
- 用真随机解反事实难题：量子随机数发生器可给 RL 提供探索 — jessi_cata · 2026-10-09
- 数学家访谈：AI 数学成果对数学职业意味着什么 — shiringhaffary · 2026-10-09
- OpenAI 定理发布撞车学者在研工作,结果更强但难以读懂 — guyvdb · 2026-10-09
- AI 生成的论文泛滥预印本平台,学者提议用决策语言模型过滤噪音 — lpachter · 2026-10-09