dbasch 反驳 AI 末日论:人类擅长预测未来是错觉
dbasch · x · 2026-09-17
针对「AI 会像人类对待低等物种一样无意间毁灭我们,所以别造它」的末日论论证,dbasch 提出反驳:
- 这一场景虽然可能,但坏可能性无穷无尽,没有理由假定这一种概率更高
- 类比不成立:AI 是人类设计的产物,而人类并非由低等物种「设计」;基因也没教会我们尊重它们
- 这类叙事和「黑暗森林」式的外星恐惧一样,靠恐惧与敬畏传播,而人类预测未来的能力极差
- 更务实的做法是继续前行,问题出现时再应对
「漫话AGI」频道最新
- 游戏老兵长文:AI 越过开发者能力阈值后,工作室死亡螺旋加速 — draginol · 2026-09-17
- 曝 OpenAI 逼近破解千禧年难题 Hodge 猜想,官宣或因数学界关系推迟 — steph_palazzolo · 2026-09-17
- LeCun 重申 LLM 非通往人类级 AI 之路,公开一小时演讲与幻灯片 — ylecun · 2026-09-17
- 研究者重新解读 Bitter Lesson:RL 的奖励仍靠人类智慧 — agarwl_ · 2026-09-17
- LLM 仍是补全引擎之魂：对齐问题只是出现率降低而非消失 — mayfer · 2026-09-17
- 1993 年神预言:电脑证明黎曼猜想人类却看不懂会多沮丧 — pickover · 2026-09-17