Zvi 记 The Curve 大会:与会的对齐研究者处境意识反而下降了
Don't Worry About the Vase (Zvi) · rss · 2026-10-08
Zvi 长文复盘第三届 The Curve 会议(Chatham House 规则,不得披露发言者身份),核心观点:行业当前的「计划」其实是无计划——先用运维卓越对齐当前 AI,再让 AI 自动化对齐研究本身,这在作者看来近乎自杀式做法(RSI 风险),但实验室因节奏太快连第一步都难以执行。
要点:
- 处境意识滑坡:年度调查显示参会者对 AI 重要性评分显著下降(平均降 0.41 分),尽管过去一年 AI 大幅进步;HuggingFace 事件、Jacob Coxon 等事件让实验室员工恐慌、公众与 DC 快速觉醒。
- 两年前的时间表预测更新:「90% 代码由 AI 写」按实际进展已达约 50%(2026-2027 而非 2028);「诺奖级发现」已因菲尔兹奖级成果与 Navier-Stokes 求解提前达成(2026);「一人十亿美元公司」接近——MEDVi 已由两人做到十亿规模。
- 新调查:多数与会者预期「AI 自行训练出更优后继者」(full RSI)会在两年内、甚至六个月内发生,与整体风险评分不足 10 分难以自洽。
- 会议气氛混合着希望与恐惧,作者对部分资深与会者观念停滞感到失望,但整体认为对齐社区正在重新动员。
「漫话AGI」频道最新
- 平面设计师哭诉：AI 生成垃圾正在毁掉我的职业 — IanArawjo · 2026-10-08
- e/acc 创始人 Beff 发声明：反对分裂小团体，称只利好末日论者 — beffjezos · 2026-10-08
- Domingos 讽刺 AI 末日论者：本来就住在悬崖边，还在继续走 — pmddomingos · 2026-10-08
- Yudkowsky:预训练算力份额已降至 7%,能力尖峰预测重新生效 — repligate · 2026-10-08
- 1984 年苏联学者旧文:论证人工智能为何不可能 — jpqwerty · 2026-10-08
- repligate 谈 AI 取代自己:不是坠落,而是像孩子超越父母 — repligate · 2026-10-08