OpenMined创始人：AI安全真问题是单边控制而非开源闭源
9月14日，OpenMined创始人、前OpenAI研究员Andrew Trask（用户名iamtrask）在系列推文中系统阐述了对AI安全辩论的重新框架化：开源与闭源之争并非真正的问题，核心问题是「对AI的单边控制」。他给出的结论是集体控制是唯一出路，这一主张延续了OpenMined一贯的去中心化安全路线，对超级智能治理讨论有直接参考价值。
已确认
- iamtrask认为AI安全辩论的99.999%（不同帖子中亦写作99.9%）实际都在围绕两个问题打转：「谁应该单方面控制超级智能AI」以及「如何确保AI不会单方面控制它自己」。
- 他将单边控制归纳为三种形态：闭源AI由一家公司单边控制；开源AI由任何持有副本的人单边控制；失控AI则由AI自己单边控制。
- 他主张世界上没有任何人值得信任去单边掌控超级智能，唯一答案是「集体控制」，并称这正是民主与自由市场背后的秘密机制。
- 他补充了技术论据：通过对模型的集体控制（model fusion、ensembles、routers等组合方式），在准确率和成本上已经优于前沿单一大模型，只是因舆论焦点不在其上，这类方法没有出现在主流榜单上。
- 他还认为集体控制的AI不仅更准更便宜，也更容易监管，监管俘获（regulatory capture）的风险要小得多，并预告后续会另发长文展开。
为什么重要
- 这一观点将长期对立的「开源 vs 闭源」路线之争转化为权力结构问题，为辩论提供了新的分析框架。
- 「集体控制更准更便宜」的技术论证使该主张不止于价值观倡议，还给出了经济与性能层面的激励。
- 集体控制更易监管、监管俘获风险更低的论点，对超级智能治理的政策讨论有直接参考价值。
2026-09-14 ~ 2026-09-14 · 7 条相关
一手来源
- iamtrask：AI 安全之争的真问题不是开源闭源，而是单边控制 — iamtrask ·
- iamtrask 补充：集体控制的 AI 更好监管，监管俘获风险更小 — iamtrask ·
- iamtrask：模型融合与集成已比前沿 AI 更准更便宜，只是不上榜单 — iamtrask ·
- iamtrask：开源闭源都不是关键，「单边控制」才是 AI 安全真问题 — iamtrask · 2026-09-14
- 【源头】iamtrask：AI 安全之争的真问题不是开源闭源，而是单边控制 — iamtrask · 2026-09-14
- iamtrask 拆解 AI 三种单边控制形态：公司、持有副本者、AI 本身 — iamtrask · 2026-09-14
- OpenMined 创始人：AI 安全辩论本质是三选一的「单方控制」问题 — iamtrask · 2026-09-14
- iamtrask：没人值得信任去单边掌控超级智能，唯一答案是集体控制 — iamtrask · 2026-09-14
- 【源头】iamtrask：模型融合与集成已比前沿 AI 更准更便宜，只是不上榜单 — iamtrask · 2026-09-14
- 【源头】iamtrask 补充：集体控制的 AI 更好监管，监管俘获风险更小 — iamtrask · 2026-09-14