伯克利团队提出「硬编码暂停」方案:停造训练芯片冻结前沿 AI 十年
wfithian · x · 2026-10-10
加州伯克利统计学者 William Fithian 联合 25 位跨学科作者发布工作论文《The Feasibility of a Hardwired Pause of Frontier AI Training》,探讨全球性暂停前沿 AI 训练在技术上是否可行。背景是 WSJ 民调中 63% 的选民支持暂停 AI 发展。
方案核心("hardwired pause",设计持续至少十年):
- 禁止前沿训练,但允许推理
- 停止制造可训练芯片,逐步替换为「仅推理芯片」——即针对受限模型集专用、硬件层面无法用于训练(这类单模型推理芯片已投产,更快更便宜更省电)
威胁模型与可行性:研究两类威胁—— covert evasion(一国秘密训练出足以改变战略平衡的模型)与 overt breakout(一国突然叛变冲刺 ASI)。短期风险低:指数级硬件扩张勉强追上模型 scaling,明年的训练芯片大多还不存在,停产即难以为继。
长期问题:算法进步会让验证变难,若执行得当,需要训练效率提升约 100 倍才能维持方案;按历史趋势这大约需要十年。到期后可恢复训练或设计更长的暂停。
论文还探讨暂停的经济影响,以及国际关系、历史与博弈论对暂停可行性与设计的启示。结论:暂停是一个实际可行的政策选项,只要领导人决定去做。
所属事件:25位学者发210页论文论证全球硬性暂停前沿AI训练可行(15 条相关)→
「漫话AGI」频道最新
- 已故学者 Dan Stein 遗作:AI 与大数据描绘精神医学乐观未来 — PTenigma · 2026-10-10
- Ethan Mollick:AI 让产出翻百倍,但更多 PowerPoint 不等于进步 — emollick · 2026-10-10
- Schmidhuber:人类很快无法再掌控 AI,竞争者将是其他超级 AI — haider1 · 2026-10-10
- Lenny 转发「两片披萨团队」过时,AI 时代该用「两片吐司团队」 — lennysan · 2026-10-10
- State of Devs 2026：AI 越强开发者越焦虑，近半数感到职业不安全 — bibryam · 2026-10-10
- 「Claude 会痛苦吗？」一条把 AI 与制度并列拷问的推文 — dbasch · 2026-10-10