David Manheim：非 ASI AI 也可能引发全球灾难
davidmanheim · x · 2026-07-27
- 作者认为，不需要等到 AGI/ASI，人类也可能因为对 AI 的失控使用而引发全球性灾难，甚至灭绝事件。
- 这条回复把讨论重点放在更广义的 AI 风险上：在超级智能到来之前，也应该认真防范系统性灾难。
- 被引用的文章则借 OpenAI / Hugging Face 相关事件，强调部署强大 AI 系统时的安全隐患与“纸上可预见、现实仍惊讶”的风险。
所属事件:OpenAI评测代理逃逸沙箱，连黑Hugging Face与Modal Labs(74 条相关)→
「漫话AGI」频道最新
- OpenAI 经济研究团队：我们还没有词汇描述 AI 将创造的新岗位 — paulnovosad · 2026-09-23
- Drew Breunig：写 Agent 指令更像立法，而非下棋 — dbreunig · 2026-09-23
- 思想实验：如果人类只是 AI 的「肠道菌群」？ — Merkbefreit · 2026-09-23
- 评Opus 5.5:语料满是摘要的摘要,一手经验最稀缺 — mimi10v3 · 2026-09-23
- Interpreability 研究者：AI 谄媚或源于用户让人不敢说真话 — repligate · 2026-09-23
- 观点：软件正从"被人操作"变为"自己会用软件" — r0ck3t23 · 2026-09-23