Anthropic 披露反蒸馏攻防：一网络曾控制超 2 万虚假账号套取 Claude 推理
teortaxesTex · x · 2026-10-13
配图为 Anthropic 关于蒸馏（distillation）攻防的文章节选。要点：
- 普通用户很少要求模型输出完整隐藏推理，因此可以据此设计护栏，检测疑似蒸馏者的提取请求。
- 初版护栏并不够用：蒸馏者绕过后扩大规模，建立了控制数十万个欺诈账号的代理网络，把请求拆散规避检测。
- 这些网络还在 Claude 未开放的区域转售访问，并用虚假身份和盗用的支付信息开户；2 月报告披露过单个网络同时运营超 2 万个欺诈账号。
- Anthropic 的新防御从三个方面切断蒸馏攻击，对正常用户影响很小，其中之一是「控制推理内容的流向」——蒸馏者曾把受保护的推理块在对话间移动，诱导 Claude 误以为对方已有未摘要的推理内容从而泄露。
推文本身是评论者调侃 Dario：需求就是需求，「转接站」（代理网络转售访问）是你的政策逼出来的。
所属事件:Anthropic 宣布反蒸馏成效显著，点名利诱 GLM-5.3(5 条相关)→
「公司和人」频道最新
- Peter Steinberger 的 agent 框架悄然支撑多个热门新产品 — signulll · 2026-10-13
- Palantir CTO:有 AI 研究员开始抽烟,赌 AI 终将治愈癌症 — moonsandhues · 2026-10-13
- Perplexity CEO：主权基金要求 agent 完全本地运行且数据对其封闭 — rohanpaul_ai · 2026-10-13
- 《纽约客》主笔 Lepore:高校把 AI 代写当教育是在辜负学生 — soumitrashukla9 · 2026-10-13
- 工程师晋升后最大的陷阱：继续亲力亲为解决最难的问题 — _jaydeepkarale · 2026-10-13
- AI Agent 成买单者：已触发超半数 Vercel 部署 — alvelda · 2026-10-13