Helen Toner长文：AI能力将持续极端不均衡，别低估其影响
hlntnr · x · 2026-09-09
前 OpenAI 董事、现任 CSET 研究员 Helen Toner 在 The Curve 会议演讲的文字稿《Taking Jaggedness Seriously》，核心论点是 AI 能力的「锯齿性」（jaggedness）值得认真对待：
- 两个事实同时成立：模型越来越好，但又持续在某些令人费解的地方表现很差（如 GPQA 博士级基准已快速逼近人类水平，却会在简单任务上翻车）。
- 她论证我们应当预期这种极端不均衡会持续存在，并解释为什么这对判断 AI 进展速度和社会影响至关重要——不能因为某项能力弱就推断整体进展缓慢。
- 演讲附带 26 分钟视频与 25 分钟 Q&A，面向「AI 可能很快变得非常强大」的听众，同时回应了持锯齿性即停滞观点的读者。
作者还提到自己已加入 CSET 新职务，Substack 更新频率会放缓。
「漫话AGI」频道最新
- 「要把光锥交给从未验证过的新概念吗」:CEV 路线遭尖锐质疑 — xuenay · 2026-09-09
- Kaj Sotala:对齐应选已知可行的「智慧顾问」方案,而非押注 CEV — xuenay · 2026-09-09
- OpenAI 称万级 Agent 并行 88 小时产出纳维-斯托克斯千禧奖证明 — scaling01 · 2026-09-09
- 红杉挖出 15 年 X 热度数据,复盘历年最热话题与当年诞生的巨头 — Scobleizer · 2026-09-09
- Evitable 创始人谈:超级智能接管的那一刻会是什么样 — DavidSKrueger · 2026-09-09
- "AI 含量 20%" 是伪概念:文本只可能 0% 或 100% — paulnovosad · 2026-09-09