Eli Lifland 思辨:暂停训练但不暂停实验,对 AI 安全意义几何
eli_lifland · x · 2026-09-30
知名 AI 风险预测者 Eli Lifland 逐步推理「放缓训练、但不放缓实验」这一策略的得失。他认为在训练下一代前沿模型的时间尺度上,这样做影响可能不大,但有两个例外:一是会失去用更强模型开展递归自我改进(RSI)的机会;二是有些风险只会在前沿规模训练中才暴露,积累真实的串行训练经验很有价值。
他还补充:训练算力相比实验算力通常占比很低,因此在月度尺度上,把训练算力转投安全工作而暂停训练、保留实验,影响有限。
所属事件:预测者 Lifland：暂停训练难阻 AI 进展，实质放缓概率仅约 25%(6 条相关)→
「漫话AGI」频道最新
- X 用户类比 FTX:EA/rat 组织充斥利益冲突与「招朋友」问题 — EigenGender · 2026-09-30
- kalomaze 质疑进化算法路线：放弃反向传播应选 BPTT 不可行的场景 — kalomaze · 2026-09-30
- Edge Agent Village V2:数百真人与数百 AI 智能体同住三周 — sydneymlevine · 2026-09-30
- Peter Diamandis提醒：我们仍身处奇点之中 — PeterDiamandis · 2026-09-30
- Judea Pearl 提到 Eric Horvitz 讲述概率推理 42 年前进入 AI 的历程 — yudapearl · 2026-09-30
- TasteLabs 创始人谈 AI 时代「品味」:帮所有人抬高创作下限 — korymath · 2026-09-30