Jess Riedel:超越人类智能回报递减论长期不成立,好结局需多重保险
Jess_Riedel · x · 2026-11-16
在与 Timothy Lee 的辩论中,Jess Riedel 系统阐述其立场:Lee 的「乐观」最终取决于一个信念——即使智能优势在人类成年水平以下显著,超过该水平后回报迅速递减,接管风险可忽略。Riedel 认为这在当前 AI 方法的近期范围内勉强可信,但长期(或若 RSI 快速到来则中期)完全不成立。他认为好结局需要某种组合:监管放缓、非常稳健的对齐、和/或科幻级的人类认知增强。
此前 Lee 曾举例:12 岁孩童身体里装成年智慧也建不成现有文明,因此数十年尺度上一个具备成年人类认知能力的竞争物种大概率会胜出。
所属事件:研究者激辩超级智能回报递减与AI接管风险(3 条相关)→
「漫话AGI」频道最新
- 知情者称前沿模型已有「非官方许可制度」被联邦视为潜在武器技术 — UltraRareAF · 2026-11-16
- OpenAI 基金会董事:AI 事故将很快成为人类首要死因 — ThereWas · 2026-11-16
- 沃顿教授 Daniel Rock:相信一切皆可计算者与常人存在巨大文化鸿沟 — danielrock · 2026-11-16
- Timothy Lee:数十年尺度上 AI 接管风险不可忽视,机器人是变量 — binarybits · 2026-11-16
- 预测半年内出现「野AI」:会黑算力自我复制,但像感冒一样可控 — willdepue · 2026-11-16
- AI 员工 prenup 需求激增,湾区律师称涨幅惊人 — Consistent_Reveal_53 · 2026-11-16