研究者反讽：暂停算法进步反而会让 AI 风险最大化
kellerjordan0 · x · 2026-09-09
AI 研究者 Keller Jordan 提出一个反直觉的「最大化 AI 风险」策略：让实验室的算法进步立即暂停，同时放任硬件公司的算力指数级堆积；再全力做安全、避免工业事故吓到公众和政府。结果是未来五年事故最少、公众不恐慌，而算力持续积累，等算法进步重启时，将出现一场无人能控的巨大 FOOM（能力失控式跃升）。
他的结论是：想最小化 AI 风险，恰恰应该反其道而行——不要单独冻结算法侧而让算力单边狂奔。
所属事件:Keller Jordan 反讽推演：暂停算法进步反而放大 AI 风险(3 条相关)→
「漫话AGI」频道最新
- tszzl：超级智能并非完全异类，但未知失败可能灾难性 — tszzl · 2026-09-09
- Ethan Mollick：实验室从业者怪异发言，显示全员进入应对模式 — emollick · 2026-09-09
- AI 安全论证难题:机器文明少了死亡与复制的正则化约束 — kellerjordan0 · 2026-09-09
- 数学界或将对 AI 解出其毕生难题感到愤怒,陶哲轩被指心态失衡 — ctjlewis · 2026-09-09
- 网友:AI 将在一切上超越人类,这是科技的终局 — rand_longevity · 2026-09-09
- 网友感慨:人类恐怕再也无法认领千禧年大奖了 — justalexoki · 2026-09-09