开放模型并非天然更安全：约落后闭源4-7个月，但值得开放
BlackHC · x · 2026-11-15
BlackHC（Andreas Kirsch）发布长文《A Safety-Minded Case for Open Models》，系统阐述支持开放模型的安全立场。
核心论点
- 开放模型并非天生更安全，只是比闭源落后约 4-7 个月（网络攻击能力方面约 6 个月）；更广的分发与更薄的护栏意味着闭源模型的失败模式将更快、更频繁地在开放模型上重现。
- 开放权重自带三类风险：责任分散、实验室安全承诺被削弱、安全训练可被移除。
- 在危险能力阈值之下，开放模型整体收益明显大于风险：能捕获大部分 AI 经济价值、支持区域主权与本地防御部署、让收益广泛扩散。
- 开放模型可能通过分流收入、压缩追求 ASI/递归自我改进（RSI）实验室的利润率来放缓超级智能竞赛，但作者承认这个经济论证自己也不太有把握。
治理主张
- 理想的权重持有分布是「尖峰型」：危险能力阈值之下是广泛、可修改的开放基座，阈值之上收窄为受严格监控的少数参与者。
- 技术优先级应是「可安全发布」的开放模型：能经受微调和 abliteration 的对齐训练，且危险能力被移除后难以低成本加回。
作者表示对核心论点较有信心，对经济论证信心较弱，欢迎对文末关键争议点的反驳。
「漫话AGI」频道最新
- Manheim 辩护：窄例外不等于否定义务论约束 — davidmanheim · 2026-11-15
- Manheim 批评「后果够严重就可破约」论:这是诉诸后果谬误 — davidmanheim · 2026-11-15
- Manheim:守约是义务论约束,后果主义视角下守约世界也更优 — davidmanheim · 2026-11-15
- Guidelight AI 列出十大失准行为信号，预警 AI 失控风险 — AccBalanced · 2026-11-15
- Reddit 热议:机器抢走工作本就是目标,为何我们视之为灾难 — Foreign-Night-3322 · 2026-11-15
- Ruxandra Teslo:把「避免痛苦」当成至高目标会催生效用怪物 — shae_mcl · 2026-11-15