Timothy Lee:数十年尺度上 AI 接管风险不可忽视,机器人是变量

binarybits · x · 2026-11-16

Timothy Lee(binarybits)与 Jess Riedel、Tom Dietterich 就「超越人类水平的智能回报是否递减、接管风险是否可忽略」展开辩论。Lee 表示:如果把时间尺度放到数十年,他不会认为风险可以忽略,尤其还要把机器人因素算进去,「可能会发生很多奇怪的事情」。

Riedel 则反驳称,这一立场最终取决于一个信念:即使智能在人类成年水平以下优势明显,超过人类水平的智能回报会迅速递减,使接管风险可忽略——他认为这在当前 AI 方法的近期范围内勉强说得通,但长期看完全不成立。

所属事件:研究者激辩超级智能回报递减与AI接管风险(3 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →