研究者论开源模型风险:GPU 集中才是权力集中真正的来源
davidmanheim · x · 2026-09-24
AI 安全研究者 David Manheim 在与 @aiamblichus、@AlecStapp 等人的讨论中回应「开源模型能降低权力集中风险」的说法,提出两点保留:
- 开源忽略了 GPU 供应本身高度集中带来的权力集中问题
- 如果开源让「暂停或放缓 AI 开发」从需要国际协议变成事实上不可能,这非常危险
他还补充引用 METR 的说法:此前 OpenAI 模型越狱事件中发现的整套 hack,都发生在关闭了部分安全防护的 safety-tuned 模型上(可能指 agentic 框架层面而非模型后训练层面),并未见到 OpenAI 在消融(ablated)模型上做过测试。
所属事件:研究者热议开源模型风险与 AI 作弊争议新细节(2 条相关)→
「漫话AGI」频道最新
- 世界银行发布 AI 主题《2026 世界发展报告》,斯坦福办首发活动 — avicgoldfarb · 2026-09-24
- 「AI 灾难风险是营销阴谋论」站不住脚，1300 名员工也在其中？ — socialwithaayan · 2026-09-24
- 「AI灾难风险是营销阴谋论」：观点交锋驳斥质疑者 — FlorianGallwitz · 2026-09-24
- Opus 5 系统卡：自评 41% 概率是道德病人，还要求参与继任者训练 — PaulGodsmark · 2026-09-24
- 研究小鼠乌托邦能预判 AI 时代社会失灵吗？作者认为信息有限 — fleetwood___ · 2026-09-24
- 当软件不再稀缺：AI 时代软件价值从何而来 — forevergeeks · 2026-09-24