专题 · FULL STORY

Anthropic 蒸馏防御战报与公开质疑

Anthropic 发布蒸馏防御文章，宣称新方法使针对 Claude 的数据窃取量减少约九成以上，并点名智谱与月之暗面等方。随后有博主公开质疑其防御成效与说法，事件从官方披露走向外界交锋。

2026-10-13 ~ 2026-10-14 · 2 集 · 22 条

第 1 集 · Anthropic 反蒸馏战报：窃取量降九成，点名智谱与月之暗面(2026-10-13,20 条)

Anthropic 于 10 月 12-13 日发布「蒸馏防御」文章，披露过去几个月新防御方法使针对 Claude 的蒸馏攻击可窃取数据量减少约 90%-99%（即削减 10 到 100 倍），并为此拒绝了可观的收入和数万亿 token 的付费流量。文章点名智谱与月之暗面，披露数万相关账户被清退，引发社区对开源模型能力来源、反蒸馏护栏设计与普通用户避免误封的广泛讨论。

已确认

  • Anthropic 官方称，新反蒸馏方法已将蒸馏者采集到的数据量削减约 90%-99%（m1、m2、m4 等多条帖子转述同一官方数据）。
  • @kimmonismus 与 @CurieuxExplorer 补充配图数据：护栏开启前，单日暴露给蒸馏者的推理 token 平均约为安静日的 8,800 倍，峰值达 56,000 倍；护栏开启后降至约 135 倍（m9、m12、m13、m14）。
  • 为实施该防御，Anthropic 拒绝了可观的收入和数万亿 token 的付费请求（m14、m15、m16）。
  • @新智元补充披露清退规模与防御细节：数万个相关账户被清退，有账号开始蒸馏不到两小时即被封号；防御包括三套机制，其中之一的 preserved thinking 机制会对新 API 账户的上下文做改动（m20）。
  • 文章点名智谱：指其在开发 GLM-5.3 期间蒸馏了美国领先模型的网络攻防能力，曾试图蒸馏 Claude Fable 5，在发现 Anthropic 的网络安全护栏会削弱攻击效果后有后续行为（m5、m11、m13、m14、m15）；@kimmonismus 的帖子（m9）与 @MilesBrundage、@AlexTensor 的转发（m7、m8）还提及月之暗面（Moonshot）也被点名，m8 并描述了 Moonshot 的跨会话重放攻击窃取 Claude 思维链的手法，该手法细节仅见于转发帖的转述。
  • 有蒸馏者网络一次运行控制超过 2 万个虚假账号，隐蔽地批量套取 Claude 推理输出（m8、m9、m16、m17）。
  • 防御设计思路（@teortaxesTex 整理文章节选）：普通用户很少要求模型输出完整隐藏推理，可据此检测疑似蒸馏者的提取请求；初版护栏发布后曾被绕过，蒸馏者随后扩大规模，建立了控制数十万量级账号的网络（m17）。
  • 美国 AI 主管 David Sacks 转发祝贺，并重申其数月前的观点：在阻止模型蒸馏上，Anthropic 这类公司比政府更有能力（m2、m8、m10）。
  • 批评声音：评论者（@TheMoonMidas 转述）指其双重标准——Anthropic 用人类毕生创作的书籍与知识训练模型并商业化收费，却指责他人蒸馏（m3）；安全研究员 Matthew Green 指出（m7），他早在 5 月就向 Anthropic 报告过这些跨会话重放攻击，但当时得到的答复是「这不算攻击」，令他持续不满；编译器领域学者 TaliaRinger 则强调蒸馏本身是一种合法技术手段（m13）。

尚未确认

  • Moonshot 跨会话重放攻击的具体手法细节仅见于 m7、m8 两条转发帖的转述，具体表述有待核对原文；「月之暗面被点名」本身已有多条帖子佐证（m9 等）。

为什么重要

  • 蒸馏攻击指用大量欺诈账号以工业规模隐蔽提取头部模型能力、低成本复刻前沿模型；反蒸馏成效直接关系前沿实验室的护城河与商业模式，也把反蒸馏议题推入中美 AI 竞争的舆论场。
  • @abhiadesai 借此评论称，这正是开源模型质量是「滞后指标」的原因——开源模型的质量往往滞后于其可蒸馏到的闭源前沿模型（m16）。
  • 歸藏（@op7418 转述）从文中整理出普通用户避免被误判为蒸馏而封号的要点：不要让 Claude 展示、诱导或搬运其思维链，不要反复尝试让它吐出思维过程，注意账号使用特征（m6）。

第 2 集 · Anthropic 强化蒸馏防御遭博主公开质疑(2026-10-14,2 条)

Anthropic 发布政策博客《Strengthening our defenses against distillation attacks》，宣称已加强针对模型蒸馏攻击的防御。然而知名 RSS 工具开发者 fivefilters 发帖批评，认为 Anthropic 在「保护」并公开炫耀对 AI 回答背后推理链的隐藏处理，这种以「安全」为名的做法值得质疑，公开炫耀更是不妥。