Andrew Trask 牛津论文：归因控制或证 AI 能力最大化与中心化背道而驰
iamtrask · x · 2026-09-20
OpenMined 创始人、牛津大学博士候选人 Andrew Trask 发布 DPhil 论文预印本《Attribution-Based Control in AI Systems》，并连发长推阐述其核心论点。
论文核心：AI 的诸多风险——隐私、价值对齐、版权、权力集中、幻觉——可归结为「归因控制」（Attribution-Based Control, ABC）问题，其技术根源是梯度下降中加法、复制与分支的过度使用。论文综合深度学习、密码学与分布式系统技术，提出降低这三种操作、实现 ABC 的可行路径，并宣称可借此解锁 6 个数量级以上的数据与算力。
作者的行业判断：
- 当前 AI 处于「大型机时代」，集中式的云端大模型只是暂时形态，「PC+互联网」式的去中心化时代即将到来；
- 最具竞争力的系统将是路由式集成智能——按需为每个 prompt 组合合适数量的窄模型；
- 密码学（如 enclaves）与分布式系统的发展指向一套完全不同的 AI 进步激励结构；
- 他据此反对「AI 权力集中不可避免且有益」的假设，也不同意部分 AI 安全社区主张的进一步集中权力的方案。
与集中化叙事的对立：论文指出，在 ABC 缺失下，民主国家要么集中数据与算力、要么把 AI 优势拱手让给集权国家；而 ABC 路线试图同时化解这一两难。
所属事件:iamtrask：AI 风险本质是权力集中，反垄断与版权才是安全正道(15 条相关)→
「漫话AGI」频道最新
- 投资人 rant：LLM 时代「能不能解决问题」取代文凭 — StewartalsopIII · 2026-11-04
- 读者提问：造 AGI 的公司该不该有「逆向康威定律」？ — akbirthko · 2026-11-04
- Cosmos Institute 撰文：AI 给出答案不等于知识，科学验证能力才是关键 — ersinesen · 2026-11-04
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04