tenobrus质疑开源价值，多方激辩开源AI与权力集中

9月15日，AI安全研究员tenobrus发表长文，阐述他与开源模型倡导者的根本分歧：他基本不相信开源模型能带来真正的正面改变，认为开源超智能不会分散权力，反而会加速权力集中。他同时澄清自己并非因危险就主张全面封禁开源，也不反对言论自由，若看到通向更多元、更自由均衡的路径他会支持。该文随即引发多位开源倡导者反驳，形成一场围绕开源AI价值与权力结构的多方交锋。

已确认

• tenobrus 长文核心立场：开源模型难以产生真正积极影响，且可能导致权力集中加速。
• willcb 反驳称，相信开源只需两点前提：训练本身重要、多样化专精在经济上有用，而现代经济史全面支持后者；他还指出开源与闭源静态模型的差别关键不在当前访问权。
• 1a3orn 在多条帖子中提出并重申开源/开放权重模型的四点价值：更好的对齐科学、对模型行为更充分的公共认知、更少的寻租空间，以及让对模型使用的监控更难实施。
• 1a3orn 另指出，开源权重给对齐科学带来的全部收益从未被系统盘点并整理成政府能接受的文件，原因并非收益小，而是这些收益不符合某些舆论的口味，相关贡献被低估。
• xeophon 在与 jphme、tenobrus 的争论中称，对业务或国家而言，把命运系于单一厂商及其一时兴起，比依赖开放模型更危险；他还转述该厂商自己的员工抱怨因不断撞上安全分类器而无法开展安全研究。
• xeophon 贴出其研究文章《The Myth of unsafe Open Source AI》，核心论点是：闭源实验室常声称开放模型不可控、可被微调用于恶意用途，但现实中造成危害的更多是闭源模型，且越狱比微调开源模型容易得多。

为什么重要

• 这场交锋触及AI治理的核心争论：开源权重究竟制衡还是加剧权力集中，直接影响监管与开放策略的走向。
• 双方论点具体化——tenobrus的权力集中担忧，对阵多样化微调的经济价值、对齐科学收益与监控抗性，加上xeophon关于滥用实际集中于闭源模型的调查——为后续政策讨论提供了可引用的框架与实证线索。

2026-09-15 ~ 2026-09-15 · 7 条相关

• 【源头】研究员 tenobrus：开源超智能不会分散权力，反而加速集中 — tenobrus · 2026-09-15
• 【源头】1a3orn 回击开源质疑：对齐科学与反监控是开源四大价值 — 1a3orn · 2026-09-15
• 开源模型能否缓解权力集中？AI 圈观点交锋引热议 — 1a3orn · 2026-09-15
• 开源权重对对齐研究的贡献被低估,只因不合规舆论口味 — 1a3orn · 2026-09-15
• 争论:依赖单一 AI 厂商比开放模型更危险 — xeophon · 2026-09-15
• 【源头】调查:现实滥用集中在闭源模型,越狱比微调开源容易千倍 — xeophon · 2026-09-15
• 开源模型之争:多样化微调的经济价值能否站得住脚 — willcb · 2026-09-15