AI开源激辩：封闭能否换来安全

7月15日，多位作者围绕“AI模型是否应该开源”展开集中讨论。@besanushi以一个反事实问题切入：如果过去10年机器学习完全建立在闭源之上，行业生态是否会变得更糟。这场讨论迅速延伸至安全防御、学术研究依赖以及产业权力集中等核心层面。

开源与安全的辩证

@kuchaev认为，将前沿能力封闭在少数公司内部并不能天然带来安全。他承认坏人滥用的风险存在，但强调安全系统不应靠“隐藏原理”来构建。他以网络安全领域依赖开源和可审计体系为例，指出模型越开放，越容易接受外部审计与红队测试。他回顾GPT-2曾被认为“太危险不能发布”的历史，指出过度保守已被证伪，并认为禁止开源AI将是损害美国AI领导力的历史性错误。@besanushi也补充，真正懂AI安全并能构建护栏的人并不多，知识垄断本身就是一种安全隐患。

开放光谱与研究基石

在@kuchaev看来，开放并非API与完全公开的二元选择，而是一个光谱。他以Nemotron为例，说明开放权重、代码和数据对大学和小实验室更具研究与安全价值。@sytelus进一步指出，开放研究是闭源模型进步的核心引擎，过去十年的关键进展（如开放数据集、muP、推测解码和RLVR等）都建立在此之上。@besanushi强调，大量学术研究和中小公司的本地部署、低成本实验高度依赖开源模型，若关闭这条路径，将严重损害全球参与度与知识扩散。

警惕能力垄断与审查控制

多位作者对权力集中提出警告。@kuchaev指出，AI面临的最大风险是少数公司控制一切，进而导致能力裁剪和按国家审查。@besanushi也表示，算力和模型资源分配不均会影响全球AI参与度，尽管真正的参与式设计很难实现，但直接关上开源大门会损害AI带来的生产力增益。他们一致认为，比起担忧开源被滥用，更应警惕少数利益集团对AI能力与访问权的绝对垄断。

2026-07-15 ~ 2026-07-15 · 10 条相关

一手来源