iamtrask：AI 风险本质是权力集中，反垄断与版权才是安全正道
9 月 20 日，OpenMined 创始人、OpenAI 研究者 iamtrask 在推特连发多条内容，系统阐述他对 AI 生存风险的核心判断：AI 风险的最佳概括是权力集中。任何风险要成为「生存级」风险，前提是先存在足以终结人类的极端权力集中；AI 若未先积累足够权力，就很难造成实质性危害，而 RSI（自我改进）本质上正是权力集中的正反馈循环。同日他还发布了牛津大学 DPhil 论文预印本《Attribution-Based Control in AI Systems》，其核心论点被认为论证了 AI 能力最大化与中心化背道而驰，与推文观点相互呼应。
已确认
- iamtrask 提出两个政策结论：其一，最小化生存风险的可行策略是把精力集中在缓解任何形式的极端权力集中上，反垄断因而是最重要的 AI 安全议题之一，且有加速创新的双重好处；其二，他批评 AI 安全社区中主张进一步集中权力（如建立世界政府监管 AI）的做法，认为其隐含前提——AI 权力集中不可避免甚至有利——并不成立，而试图集中比你要对冲的风险更多的权力，本身就是很糟糕的策略。
- 在版权路线上，他主张 AI 安全社区应推动硬性版权/数据主权/隐私判决：短期拖慢 AI 发展速度，中期把强大的媒体公司天然放到安全阵营一侧，长期去中心化 AI 权力、增加多条窄 AI 出现的概率。他称多次询问社区内人士为何回避与版权阵营结盟，从未得到像样的回答，并推测原因是社区同时推进游说 AI 公司拥抱安全的路线，参与者为地位博弈小心选边；他补充，并行推进相互矛盾的多条策略理论上可行，但需要有人放弃薪资与声望去投身复杂法律诉讼，这解释了该路线在现实中难以落地。
- 他指出一个吊诡现象：反垄断诉讼的明确目的就是分散权力，却被 AI 安全阵营 oppose；而 AI 公司自身也想集中权力，存在使其无法正面接纳「反垄断=去中心化」叙事的反常激励。
- 在后续推文中他给出更明确的操作框架：若想同时降低 AI 风险并最大化收益，应给窄域 AI（narrow AIs）创造更多竞争，同时给通用 AI（general AIs）踩刹车；他还转发了 betterpath.ai 的「Pro-Human Path for AI」框架并表示高度认同。
- 网友 herbiebradley 在与 Andrew Trask 的思想实验式辩论中提出不同判断：现实范围内的版权裁决即便不利，也不会显著拖慢 AI 训练，只会让数据支出加速上涨；预训练已越过网络爬取数据被大幅榨干的节点，并据此认为限制训练的版权法不道德。这是对该策略短期「减速」效果与正当性的直接质疑。
尚未确认
- herbiebradley 关于「预训练数据已被榨干」的判断属于个人观点，其与 iamtrask 版权策略主张之间的分歧尚未有进一步回应或澄清。
为什么重要
- 这一框架把「对齐」问题的优先级与权力结构绑定：对齐只在权力集中时才成为关键议题，为 AI 治理与反垄断政策的结合提供了理论桥梁。
- 观点出自 OpenAI 内部研究者，显示「去中心化优先」思路在主流 AI 机构中亦有支持者，对监管路径选择（集中式国际监管 vs. 分散竞争）具有参考意义。
- 论文与推文同步发布，表明这一立场不仅是社交媒体观点，也有学术层面的系统论证支撑；而 herbiebradley 的反驳则提示版权路线的减速效果存在争议。
2026-09-20 ~ 2026-09-20 · 15 条相关
一手来源
- iamtrask:AI 风险本质是权力集中,对齐只在权力集中时才重要 — iamtrask ·
- Andrew Trask 牛津论文：归因控制或证 AI 能力最大化与中心化背道而驰 — iamtrask ·
- 预训练网页数据已被榨干,学者称限制训练的版权法不道德 — herbiebradley ·
- 【源头】iamtrask:AI 风险本质是权力集中,对齐只在权力集中时才重要 — iamtrask · 2026-09-20
- iamtrask：安全派反对反垄断诉讼，世界变得荒诞 — iamtrask · 2026-09-20
- iamtrask：反垄断才是最重要的 AI 安全策略，还能加速创新 — iamtrask · 2026-09-20
- iamtrask 的 AI 风险框架：窄 AI 加竞争，通用 AI 减速 — iamtrask · 2026-09-20
- iamtrask 背书 betterpath.ai 框架：竞争窄 AI、放慢通用 AI 来降低风险 — iamtrask · 2026-09-20
- iamtrask：没有极端权力集中就没有生存风险，防集中才是首要策略 — iamtrask · 2026-09-20
- iamtrask 批评 AI 安全圈：用集中更多权力来管 AI 是坏策略 — iamtrask · 2026-09-20
- iamtrask:AI 安全社区不与版权阵营结盟,我从未听到好理由 — iamtrask · 2026-09-20
- iamtrask:硬版权判决可拖慢 AI、制衡巨头、推动多条窄 AI 路线 — iamtrask · 2026-09-20
- iamtrask:AI 安全圈回避版权路线,是怕与游说厂商策略冲突 — iamtrask · 2026-09-20
- iamtrask:并行矛盾策略可行,但需有人弃薪资声望去打官司 — iamtrask · 2026-09-20
- 【源头】Andrew Trask 牛津论文：归因控制或证 AI 能力最大化与中心化背道而驰 — iamtrask · 2026-09-20
- 【源头】预训练网页数据已被榨干,学者称限制训练的版权法不道德 — herbiebradley · 2026-09-20
- 版权裁决会如何改变 AI 训练:从抢办授权到数据方要求模型话语权 — iamtrask · 2026-09-20
另有 1 条近重复转述:iamtrask