Epoch 研究员梳理「给 AI 降速」工具箱:限 RSI、限算力、限内部 Agent 预算
connoraxiotes · x · 2026-09-14
Epoch AI 研究员 Josh You 发文讨论如何刻意「降速」前沿 AI 发展,并给出一个机制分类框架。
- 全局性措施:限制 AI 研发总算力、用基准分数设定能力上限、限制递归自我改进(RSI)。
- 针对性措施:针对训练环节设 FLOP 上限,或延缓特定类型 AI 创新的发现与落地。
- RSI 限速的两种设想:一是给递归开发设速度限制,如要求内部用于 AI 研发的 Agent 必须上线超过 X 个月,或限定模型权重刷新频率;二是限制内部 Agent 的预算,可按公司或按人头设上限。
作者还指出关键前置问题:要限速的究竟是哪些危险能力(网络攻击、生物武器研究、AI 研究本身),或许可直接针对这些能力做抑制。作者强调政策设计极难,自己对实验室和政府该怎么做并无确定答案。
「漫话AGI」频道最新
- 老文重提：AI 国际治理是联合还是对抗，15-40 年智能路线之争 — danfaggella · 2026-09-14
- iamtrask 补充：集体控制的 AI 更好监管，监管俘获风险更小 — iamtrask · 2026-09-14
- iamtrask：没人值得信任去单边掌控超级智能，唯一答案是集体控制 — iamtrask · 2026-09-14
- AI 安全辩论：危险 AI 须能自建物理能力，但能力扩展速度被低估 — lu_sichu · 2026-09-14
- CV 学界反思:大模型时代计算机视觉该何去何从 — CSProfKGD · 2026-09-14
- 她提议暂停 AI 三个月:全员实验室强制同步休假 — herbiebradley · 2026-09-14