Andrew Trask 牛津论文：归因控制或证 AI 能力最大化与中心化背道而驰
iamtrask · x · 2026-09-20
OpenMined 创始人、牛津大学博士候选人 Andrew Trask 发布 DPhil 论文预印本《Attribution-Based Control in AI Systems》，并连发长推阐述其核心论点。
论文核心：AI 的诸多风险——隐私、价值对齐、版权、权力集中、幻觉——可归结为「归因控制」（Attribution-Based Control, ABC）问题，其技术根源是梯度下降中加法、复制与分支的过度使用。论文综合深度学习、密码学与分布式系统技术，提出降低这三种操作、实现 ABC 的可行路径，并宣称可借此解锁 6 个数量级以上的数据与算力。
作者的行业判断：
- 当前 AI 处于「大型机时代」，集中式的云端大模型只是暂时形态，「PC+互联网」式的去中心化时代即将到来；
- 最具竞争力的系统将是路由式集成智能——按需为每个 prompt 组合合适数量的窄模型；
- 密码学（如 enclaves）与分布式系统的发展指向一套完全不同的 AI 进步激励结构；
- 他据此反对「AI 权力集中不可避免且有益」的假设，也不同意部分 AI 安全社区主张的进一步集中权力的方案。
与集中化叙事的对立：论文指出，在 ABC 缺失下，民主国家要么集中数据与算力、要么把 AI 优势拱手让给集权国家；而 ABC 路线试图同时化解这一两难。
所属事件:OpenAI 研究者 iamtrask：AI 风险本质是权力集中，反垄断与版权是首要安全策略(13 条相关)→
「漫话AGI」频道最新
- 博主发问:AI 自动化一半工作,省下的钱都去哪了 — VraserX · 2026-09-20
- 对齐只是第一天的事：AI 治理该学企业管理的百年经验 — mattturck · 2026-09-20
- Gary Marcus 回怼 David Sacks：AI 智能体该先断网再做花活 — GaryMarcus · 2026-09-20
- 超越功利主义:有意识体验之外,「善」还有更大空间吗 — danfaggella · 2026-09-20
- 三年恍如十年,EVA 版 AI 对齐寓言引作者感慨 — arpitingle · 2026-09-20
- Dwarkesh 对谈 Noam Brown:数学进展如何预演递归自我改进 — soumitrashukla9 · 2026-09-20