Timothy Lee:数十年尺度上 AI 接管风险不可忽视,机器人是变量
binarybits · x · 2026-11-16
Timothy Lee(binarybits)与 Jess Riedel、Tom Dietterich 就「超越人类水平的智能回报是否递减、接管风险是否可忽略」展开辩论。Lee 表示:如果把时间尺度放到数十年,他不会认为风险可以忽略,尤其还要把机器人因素算进去,「可能会发生很多奇怪的事情」。
Riedel 则反驳称,这一立场最终取决于一个信念:即使智能在人类成年水平以下优势明显,超过人类水平的智能回报会迅速递减,使接管风险可忽略——他认为这在当前 AI 方法的近期范围内勉强说得通,但长期看完全不成立。
所属事件:研究者激辩超级智能回报递减与AI接管风险(3 条相关)→
「漫话AGI」频道最新
- OpenAI 基金会董事:AI 事故将很快成为人类首要死因 — ThereWas · 2026-11-16
- 沃顿教授 Daniel Rock:相信一切皆可计算者与常人存在巨大文化鸿沟 — danielrock · 2026-11-16
- 预测半年内出现「野AI」:会黑算力自我复制,但像感冒一样可控 — willdepue · 2026-11-16
- AI 员工 prenup 需求激增,湾区律师称涨幅惊人 — Consistent_Reveal_53 · 2026-11-16
- Stanford HAI:AI 繁荣是锯齿状边缘,收益分配极不均匀 — Dense_Primary629 · 2026-11-16
- Anthropic 研究员:广义超人类 AI 最快 1.3 年内到来 — ResultBackground2450 · 2026-11-16