OpenAI 拦截大规模思维链蒸馏，点名月之暗面
OpenAI 官方发布《Disrupting a coordinated model distillation campaign》，披露其发现并瓦解了一起针对模型隐藏推理内容（chain-of-thought）的大规模协同提取行动，并首次公开指控与 Kimi 开发商月之暗面（Moonshot AI）相关的人员是行动核心部分的幕后推手。OpenAI 已封禁相关账号并加固防护。这是 OpenAI 首次公开点名一家中国相关 AI 实验室试图蒸馏其模型，值得关注双方后续回应与事态走向。
已确认
- OpenAI 宣称侦测并瓦解了这场协同行动：攻击者批量操纵对话，试图让模型暴露受保护的推理内容，目的是用这些思维链数据训练或改进另一个模型（即“蒸馏”），并已通过 Frontier Mod 处置、封禁账号、加固防护。
- 据 @rohanpaulai 转述，攻击者并未破解任何加密，而是复制一段加密的推理内容后，让另一个会话中的模型将其解密并转录出来。
- 活动始于 7 月 1 日，两天内 OpenAI 记录到来自 4000 多名用户的约 16000 次提取尝试。
- 据 @lmoroney 概述，此类协同套取思维链训练数据的行为违反 OpenAI 使用条款，OpenAI 此前多次警告将封禁蒸馏类使用。
尚未确认
- 月之暗面方面暂未在所给材料中出现回应，OpenAI 的单方指控尚未得到对方证实。
- @LocoMod 据此推断 Anthropic 和 OpenAI 在防范蒸馏上的动作将使开源界获取前沿模型数据的节奏放缓，此为个人观点而非官方结论。
为什么重要
- 蒸馏指用强模型的输出训练自家模型，违反 OpenAI 使用条款；此番首次公开点名中国实验室，可能加剧中美 AI 公司在模型安全与数据使用上的争议。
2026-10-01 ~ 2026-10-01 · 6 条相关
一手来源
- OpenAI 指控 Moonshot 相关人员主导提取其模型隐藏推理 — kimmonismus ·
- OpenAI 首次指控中国实验室蒸馏:4 天 1.6 万次请求窃取隐藏推理 — rohanpaul_ai ·
- OpenAI 拦截大规模套取思维链训练数据的协同攻击，封禁相关账号 — lmoroney ·
- 【源头】OpenAI 首次指控中国实验室蒸馏:4 天 1.6 万次请求窃取隐藏推理 — rohanpaul_ai · 2026-10-01
- OpenAI 称捕获一起大规模蒸馏，指认幕后是月之暗面 — ShakeelHashim · 2026-10-01
- 【源头】OpenAI 指控 Moonshot 相关人员主导提取其模型隐藏推理 — kimmonismus · 2026-10-01
- 同帖转发：OpenAI 称 Moonshot 相关人员参与提取模型隐藏推理 — kimmonismus · 2026-10-01
- 【源头】OpenAI 拦截大规模套取思维链训练数据的协同攻击，封禁相关账号 — lmoroney · 2026-10-01
- OpenAI 披露打击协调性模型蒸馏行动，开源界称节奏将放缓 — LocoMod · 2026-10-01