Séb Krier 评 Christiano 访谈:看好能力跃升,质疑接管叙事
joshua_saxe · x · 2026-11-21
AI 安全研究者 Séb Krier 发文回应 Paul Christiano 上 Dwarkesh 播客的访谈,给出三点早期判断:
- 看好能力快速提升:认为模型的快速能力增长趋势可信;他把通常说的 RSI(递归自我改进)理解为更广义的「模型训练管线」。
- 对「接管」结论持怀疑:从能力跃升直接推出 AI 接管/失控的跨越论证,他并不买账。
- 警惕应急式过度扩权:担心以紧急状态为由的过度监管反应。
随后 GerritD 转发建议把 Krier 也请上 Dwarkesh 播客当面交锋,Joshua Saxe(Saxe Institute 创始人)转发扩散了这一提议。这是 AI 安全圈内部对 Christiano 最新 AGI 时间线判断的公开争论,可作为理解当前对齐阵营分歧的切入点。
「漫话AGI」频道最新
- Martin Casado:人类把宇宙压缩成语言,语言模型只是在其上穿行 — yasamanbb · 2026-11-21
- YC CEO 玩梗:模拟假说的设计者赶在财年末清空 token 额度 — PaulYacoubian · 2026-11-21
- François Fleuret:纯数学走得很远,接下来该看 AI 的「有用数学」了 — francoisfleuret · 2026-11-21
- 传 Anthropic 模型产出 1740 万行 Lean 代码证明广义黎曼猜想 — burny_tech · 2026-11-21
- Scott Aaronson:AI 数学突破让 P vs NP 成「最终 Boss」 — burny_tech · 2026-11-21
- 读者批《If Anyone Builds It》情节漏洞:AI 隐瞒黎曼猜想证明 — jessi_cata · 2026-11-21