Anthropic 滥用报告：拦截危险生物请求，点名 7 家中国实验室蒸馏 Claude
rohanpaul_ai · x · 2026-09-11
Anthropic 最新"AI 滥用"报告披露多项敏感发现：
- 生物安全：报告描述了 5 起生物滥用案例，包括禽流感研究、涉及某军事研究机构的基孔肯雅病毒基金申请书；Anthropic 已拦截使病毒更危险的请求。
- 封号无效：对涉事研究者的封禁并未阻断访问——一家转售商几天内就恢复了服务，相关研究仍在继续。
- 模型能力变化：Anthropic 此前评估旧版 Claude 能力不足以实质性帮助专家开展危险生物研究，但对新模型已无法给出同样保证，因此扩大了生物类请求的限制范围。
- 中国实验室蒸馏：Anthropic 称发现 7 家中国实验室的未经授权蒸馏行动；并称 DeepSeek 和月之暗面曾把客户请求转发给 Claude、把回复包装成自家模型输出，导致敏感公司信息甚至有效凭证在客户不知情的情况下暴露给 Anthropic。
- 报告引出的行业问题：当供应商悄悄替换底层模型时，客户无法控制敏感信息的流向。
所属事件:Anthropic 发布最详细威胁报告，点名中国厂商滥用(97 条相关)→
「安全」频道最新
- Aidan Gomez：模型推理痕迹说谎，CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27
- AI 真会「失控作乱」吗？CJR 告诫记者勿拟人化炒作 — ShakeelHashim · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27
- 6 个月被抢超 1 亿美元：盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27
- 约翰霍普金斯 3000+ 患者数据被传给 AI 工具后发出警报 — beingmodest · 2026-10-27
- Thom Wolf 发布 Alignment Hub：汇集 120+ 起 AI 模型失控公开事件 — Thom_Wolf · 2026-10-27