Anthropic 安全主管「不可避免」论遭批：蒸馏防护缺失被指加速风险
DKokotajlo · x · 2026-10-24
Nathan Calvin（DC 政策副总裁）回应 Anthropic 安全主管关于 AI 网络安全风险的表态，提出三点批评：
- 部分当前 AI 网络安全风险无论如何都会发生，Anthropic 此前的一些警告确实有先见之明；但 Anthropic 在被警告后仍未做好防蒸馏（distillation）防护，客观上加速了部分中国开源权重模型的能力，这些模型正被用于当前的攻击
- 这种「本来也不可避免」的逻辑不适用于 RSI（递归自我改进）风险：Anthropic 确实在加剧竞赛，对风险的边际贡献是真实的
- 从传播角度看，「不可避免、不怪我们」的口径很难获得公众认同——人们会因 AI 相关伤害而归咎 AI 公司
引发对前沿实验室安全责任边界的实质争论。
「公司和人」频道最新
- OpenAI 推 ChatGPT Ads：每周 17 亿条购物类提示词成广告库存 — Squiffered · 2026-10-24
- Amazon 科研奖资助多语言 AI 评测，聚焦非洲等低资源语言，11 月 4 日截稿 — Fowe · 2026-10-24
- Hustle Fund 合伙人：基金 agent 数量快追上全职员工，硅谷却更焦虑了 — dunkhippo33 · 2026-10-24
- 9/10 工程师说不出公司战略，产品人总结 19 条战略法则 — aakashgupta · 2026-10-24
- Stratechery 周报:Apple×Meta 端侧 AI 合作、Netflix 困境与 Stripe 赞助 — Stratechery · 2026-10-24
- 字节前实习生田柯宇投毒事件复盘：上百工程师排查数月才锁定 — teortaxesTex · 2026-10-24