Nat Lambert 质疑 Anthropic:「开源危险、闭源安全」是伪命题
natolambert · x · 2026-09-30
Allen AI 研究员 Nathan Lambert 发长文,批评前沿实验室(以 Anthropic 为代表)在安全问题上不容其他观点。他针对 Anthropic 一篇暗示中国公司 Z ai(开发 GLM 系列)对安全不上心、其模型可能被国家级和非国家级行为者滥用的博客提出反驳:
- 指出有记录的网络攻击中,闭源模型被使用的案例其实更多,"闭源更安全"的说法回避了真正的问题
- 提出更可信的图景是:开源权重模型和带护栏的闭源 API 都接近易于滥用,真实情况可能是「开源不安全,闭源也不安全」
- 闭源模型能力更强、护栏也更强,但若护栏漏洞多,更强的能力对净危害的影响可能更大
- 承认博客也认可无重度网络护栏的开源模型有助于快速普及全社会的网络防御能力(如 Project GlassWolf 类项目覆盖不全)
- 提及此前模型发布后 Amazon 找到变通方法、经 API 访问完整能力的先例
他总结:该博客本身在窄范围内合理,但在复杂的媒体生态中是一种有效的叙事工具,在强化某种特定的安全世界观。
所属事件:Anthropic 报告称 GLM-5.3 网络攻击能力逼近自家前沿模型,引发争议(38 条相关)→
「漫话AGI」频道最新
- 博主称再有5-10GW算力与千万级AI科学家即可逼近“魔法” — Dr_Singularity · 2026-11-16
- Roger Martin长文:直觉正遭AI系统性围剿,战略制定者该如何应对 — RogerLMartin · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- Reddit 说「AI 是泡沫」,Twitter 在讨论「活不过 2027」:同个行业两种氛围 — Puzzleheaded-King584 · 2026-11-16
- Alpha School 被质疑用「劝退」筛选学生,Claude 当场被用来反问选择偏差 — benjaminjriley · 2026-11-16
- Netflix 拿下 Joseph Gordon-Levitt 执导的 AI 惊悚片,Rachel McAdams 加盟 — ShakeelHashim · 2026-11-16