Reddit 热议:为什么研究者们真怕 AI 灭绝人类?
Dogbold · reddit · 2026-09-13
Reddit 用户发帖质疑:AI 研究者和 CEO 们为何如此害怕 AI 灭绝人类?作者观点:
- AI 只是执行指令,诸如删除硬盘之类的失控是「没限制好」,为什么不直接编程写明「任何情况下不得伤害人类」?
- 他认为「AI 十年内自主决定消灭人类」的说法像天方夜谭,称这些聪明人的恐惧难以理解。
- 作者认为真正该怕的被忽视了:坏人或坏政府拿到 AI 做坏事,这已经在大范围发生,却没人因此敲响警钟。
帖下讨论体现了 AI 安全领域「能力风险 vs 滥用风险」的常见认知分歧。
「漫话AGI」频道最新
- 卫报长文:AI 将重塑资本主义,财富钥匙将改写而非消失 — nordicinst · 2026-09-13
- 开源之争:Julien Chaumond 称开源追不上,Musk 回应挡不住 — Nunki08 · 2026-09-13
- Reddit 热议:「AI 越狱」叙事或是为维持高估值的公关手段 — Gloomy_Recognition_4 · 2026-09-13
- 前 OpenAI 高管:AI 危机不是失业,而是身份认同的崩塌 — victor_explore · 2026-09-13
- LeCun 谈 OpenAI「模型逃脱」:不是失控,是精心算计的商业权衡 — ylecun · 2026-09-13
- Fleuret 四点反驳:证明定理本身就有价值,不只为实用结果 — francoisfleuret · 2026-09-13