学术者做 30 分钟视频:AI 灭绝风险哪些有实证、哪些仍是假设
Ok-Professor7130 · reddit · 2026-10-03
一位学术工作者针对 Reddit 上「人类 doomed」vs「全是炒作」的两极讨论,制作了 30 分钟视频论文,区分两个常被混为一谈的问题:哪些能力已被实际演示?距离真正的人类失控还差哪些步骤?
- 内容覆盖能力评估、OpenAI/METR 多智能体网络事件、自主复制测试、研究者调查、AI 安全报告,以及 AI 辅助 AI 研究的证据。
- 作者将 Hugging Face 攻击事件与 Navier-Stokes 结果联系起来,认为它们揭示了同一种底层能力。
- 结论刻意避开「末日」与「无忧」两端:部分曾属假设的能力已有限度地存在,但从当前系统到人类无法控制的 AI 之间仍有多个步骤是推测性的。
- 视频链接与缺失议题的反馈征集见原帖。
「漫话AGI」频道最新
- 意识科学家 Anil Seth 回击 Steve Yegge：反机器意识并不等于人类中心主义 — anilkseth · 2026-10-03
- 网友预判 AI 泡沫一两年内破裂:债券市场不是慈善机构 — lewispatty · 2026-10-03
- DeepMind 研究员提「人工共生智能」替代奇异性叙事 — The Decoder · 2026-10-03
- Avi Loeb：若百万分之一的 UAP 是非人类造物，其意义将远超 AI — examachine · 2026-10-03
- 「毁灭人类长期潜力」不算好定义？学者质疑存在性风险概念 — birchlse · 2026-10-03
- Hutter 等新论文：理解泛化需要通用归纳与视角化 Solomonoff 归纳 — examachine · 2026-10-03