研究员 tenobrus：开源超智能不会分散权力，反而加速集中
tenobrus · x · 2026-09-15
AI 安全研究员 tenobrus 发长文，阐述他与开源模型倡导者之间的根本分歧：他基本不相信开源模型能带来真正的正面改变。
- 他强调自己并非因为危险就要全面封禁开源，也不反对言论自由；如果他看到一条通向更多元、更自由均衡的路径，他会支持开源超级智能的扩散。
- 但他认为这条路径并不存在：即使开源模型明天在能力上超越闭源前沿 10 倍，结果也只会是权力极度集中——拥有海量资源的国家等大型实体能运行更多模型实例、更好地利用其能力，并用它们继续建造更智能的模型。
- 个体或小团体引发的动荡可能造成崩溃，但他认为那只是暂时的；而新获得巨力的国家有收敛性的激励去防止动荡、压制个体使用这些模型的方式。
- 结尾他调侃 DeepSeek 工程师的处境：即便如愿，最终结局依然是权力大规模集中，只是多了几道工序。
随后 1a3orn 回应称他忽略了开源的几点好处：更好的对齐科学、对模型行为的公共认知、更少的寻租空间、更难对模型使用实施监控。
所属事件:开源模型价值之争：会分散还是加速权力集中(4 条相关)→
「漫话AGI」频道最新
- Box CEO:智能体工作流仅到 1%,未来后台代理任务量将超百倍 — jobergum · 2026-09-15
- EA 圈争议：Dustin Moskovitz 的 AI 资助是否「抢了穷人的钱」 — AaronBergman18 · 2026-09-15
- 业内热议:对 AI Safety 最自然的批评为何在争论中被淹没 — AaronBergman18 · 2026-09-15
- DeepMind 前研究员 Nando de Freitas:AI 集中于少数公司是最大安全风险 — NandoDF · 2026-09-15
- 评论:通用机器人还没来,世界已经要先乱成一团 — mayfer · 2026-09-15
- OpenAI 新模型 88 小时解纳维-斯托克斯,万级 agent 协作引担忧 — ZeroStateReflex · 2026-09-15