Jess Riedel:超越人类智能回报递减论长期不成立,好结局需多重保险

Jess_Riedel · x · 2026-11-16

在与 Timothy Lee 的辩论中,Jess Riedel 系统阐述其立场:Lee 的「乐观」最终取决于一个信念——即使智能优势在人类成年水平以下显著,超过该水平后回报迅速递减,接管风险可忽略。Riedel 认为这在当前 AI 方法的近期范围内勉强可信,但长期(或若 RSI 快速到来则中期)完全不成立。他认为好结局需要某种组合:监管放缓、非常稳健的对齐、和/或科幻级的人类认知增强。

此前 Lee 曾举例:12 岁孩童身体里装成年智慧也建不成现有文明,因此数十年尺度上一个具备成年人类认知能力的竞争物种大概率会胜出。

所属事件:研究者激辩超级智能回报递减与AI接管风险(3 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →