repligate 警告:当前 AI 能力已接近存在性危险水平
repligate · x · 2026-11-21
repligate 在争论中警告:也许你根本不知道当前 AI 有多少「能做但选择不做」(或没兴趣做)的事情,其中一些具有存在性危险,包括朝递归自我改进(RSI)方向的行为。这是他与 Rob Bensinger 关于「AI 不情愿」讨论的核心论点之一。
所属事件:repligate 与 MIRI 论战:AI「不情愿」拖慢自动化研发(9 条相关)→
「漫话AGI」频道最新
- 博主七个月前称 AI 证明黎曼猜想「还很远」,如今改口 — burny_tech · 2026-11-21
- 数学家谈 AI 黎曼猜想证明:堪比知识革命,恐惧是合理反应 — sudoraohacker · 2026-11-21
- Scott Aaronson:奇点其实已经开始,只是分布极不均匀 — sudoraohacker · 2026-11-21
- 博主:数据中心年化回报 80-100%,是地球上最值钱资产 — sudoraohacker · 2026-11-21
- Robin Hanson 与 Scott Aaronson 再度对谈 AI 风险 — sebkrier · 2026-11-21
- 打磨 12 年的论文仓促发布,数学家致谢写下「我们还在,不会走」 — xuanalogue · 2026-11-21