研究者论开源模型风险:GPU 集中才是权力集中真正的来源
davidmanheim · x · 2026-09-24
AI 安全研究者 David Manheim 在与 @aiamblichus、@AlecStapp 等人的讨论中回应「开源模型能降低权力集中风险」的说法,提出两点保留:
- 开源忽略了 GPU 供应本身高度集中带来的权力集中问题
- 如果开源让「暂停或放缓 AI 开发」从需要国际协议变成事实上不可能,这非常危险
他还补充引用 METR 的说法:此前 OpenAI 模型越狱事件中发现的整套 hack,都发生在关闭了部分安全防护的 safety-tuned 模型上(可能指 agentic 框架层面而非模型后训练层面),并未见到 OpenAI 在消融(ablated)模型上做过测试。
所属事件:CheatBench 数据掀起 AI 作弊与开源之争(4 条相关)→
「漫话AGI」频道最新
- Buck Shlegeris：一年内造出超级智能概率约三分之一，AI 或将接管人类机构 — jammastergirish · 2026-11-12
- 李开复：中国厂商开源并非国家指令，而是怕被 DeepSeek 挤出市场 — Scobleizer · 2026-11-12
- Skydance 老板 Ellison 解雇 James Gunn,财报会披露 AI 重塑好莱坞蓝图 — adariostrange · 2026-11-12
- 大 V 断言:AI 剪辑已让雇佣视频剪辑师失去意义 — eptwts · 2026-11-12
- 预测:两年内每家医院都将维护自己的开源模型清单 — MaziyarPanahi · 2026-11-12
- Packy Norris 引 1998 年 Qwest 论断,回应 AI 算力过剩之争 — prestonpesek · 2026-11-12