Nathan Lambert:开放权重网络风险讨论已走入双输死胡同
Interconnects (Nathan Lambert) · rss · 2026-10-06
Nathan Lambert 在 Interconnects 撰文批评当前关于开放权重模型网络风险的讨论。
核心论点
- 反开放阵营(前沿实验室、国安圈)与挺开放阵营的辩论失衡,风险派声量过大;Anthropic 关于 GLM-5.3 作为进攻性网络工具的报告技术上合理,但回避了关键问题:如果因网络风险禁掉开放模型会怎样、中国公司为何认为可安全发布。
- 公开数据显示目前多数已记录的网络攻击来自闭源模型 API 而非开源权重;「开放危险、闭源安全」可能是「两者都不安全」,或愿意发起大声量攻击的坏行为者本就很少。
- 若以网络风险为由禁开放权重模型,逻辑上也应禁止前沿闭源模型的公开 API;否则只会扩大攻防差距。开放权重模型是防御者在气隙网络/私有基础设施上部署强模型的几乎唯一途径。
对中国 AI 安全姿态的分析
- 中国有内生的 AI 安全话语:主要模型发布须向政府注册评估(源于信息管控),但监管去中心化、是否覆盖网络/生物风险不明。
- 中国研究者个人面临的社会风险更高(顶尖研究者不能随意出境、行业对外资关闭),公司更务实,把模型当工具或业务补充,而非「以好 AI 制坏 AI」。
「漫话AGI」频道最新
- AI 数据中心 2035 年或需 500GW，前英官员警告能源成最大瓶颈 — ShakeelHashim · 2026-10-06
- Vowpal Wabbit 作者 Langford 将在 COLM 谈「AI 速度的研究」 — JohnCLangford · 2026-10-06
- 「研究品味每 3 个月翻倍」论文遭质疑：测的其实是指标优化 — dhadfieldmenell · 2026-10-06
- ChatGPT 发布近四年：AI 直接致死人数为零 — DeryaTR_ · 2026-10-06
- 2048 年图景:所有工作都被自动化,唯独医疗行政和工会岗位幸存 — rickasaurus · 2026-10-06
- MIT 经济学家:AI 即使最乐观情景也会带来大规模就业冲击 — soumitrashukla9 · 2026-10-06