AGI开源激辩：安全靠开放制衡，算力才是终极权力

近期海外科技圈围绕“AI与AGI是否应开源”展开激辩，核心焦点从技术路线上升到了权力分配与算力垄断层面。当前讨论的共识倾向于：真正的安全来自开放系统的制衡，而AI权力的最终归属可能不在于模型本身，而集中在掌握底层算力与云的巨头手中。

已确认

多位博主（如 @WolframRvnwlf、@maxpaperclips、@AndrewSchmidtFC、@karmicoder）明确表达了对权力过度集中的担忧。他们认为，将强大的AI或AGI能力限制在少数“自封的掌控者”手中并不安全，真正的安全应来自更广泛的公众参与和开放系统的制衡。@karmicoder 进一步指出，如果强大AI真的可能导致行业甚至人类层面的整体灾难，闭源系统往往只顾局部收益而忽视全局风险，因此开源才是避免共同失控的唯一出路。@AndrewSchmidtFC 总结道，开源与闭源之争，本质上是在探讨是否相信现有的权力中心能比行业平均水平做得更好。

另一方面，@GavinSBaker 引用的长文提出了一个关键框架：AI带来的真正危险是“集中化”，且权力的最终归属不仅限于模型公司，更可能集中在掌握算力与云的巨头手中。@BlackHC 也持有类似观点，认为在前沿模型走向开放的时代，竞争优势将重新回归到规模与算力，最终依然是算力最多的一方占优。

尚未确认

@zetalyrae 转述了关于OpenAI成立动机的坊间讨论，称Elon Musk和Sam Altman当时成立OpenAI，很大程度上是为了抢在Demis Hassabis之前做出AGI，以避免权力落入单一机构之手。这一起源故事属于当事人的历史视角或传闻，并未得到官方直接证实。

为什么重要

这场争论揭示了AI行业的发展逻辑正在发生转变：即使前沿模型的技术壁垒因开源而降低，算力和云计算的门槛依然高企。这意味着未来的AI权力可能不会因开源而真正“分散”，反而会向底层算力掌控者进一步集中。这为行业监管、反垄断以及AI安全研究提供了一个比“开源好与坏”更为深刻的思考维度。

2026-07-26 ~ 2026-07-28 · 8 条相关

一手来源

另有 1 条近重复转述:max_paperclips