研究者指 OpenAI 退出训练条款存漏洞：隐藏 CoT 疑不受约束
dhruv2038 · x · 2026-09-11
研究者 Shashwat Goel 逐字分析了 OpenAI 消费者条款，发现一个可能的漏洞：用户可以选择退出将其「内容」用于模型训练，而条款把内容定义为「Input（用户输入）」与「Output（用户收到的输出）」。
问题在于：OpenAI 的隐藏思维链（hidden CoT）并不直接返还给用户，因此按字面定义它可能不算「Output」，从而不受 opt-out 约束。
关键风险点：隐藏 CoT 中往往包含对训练有用的、经过轻度处理的一切信息——包括用户输入和最终返回的输出。也就是说，即使用户退出了训练，其数据的实质内容仍可能通过 CoT 被用于训练，使退出保证形同虚设。作者还提到条款其他部分的措辞佐证了这一怀疑，呼吁关注这一解释上的灰色地带。
所属事件:研究者指 OpenAI 退出训练条款或漏掉隐藏思维链(2 条相关)→
「安全」频道最新
- 政策研究者 Janet Egan 加入 IFP 出任新兴技术总监 — RishiBommasani · 2026-10-28
- HEIF Heist 漏洞链：可导出 OpenAI 私有仓库、触发 Meta 全线 RCE — Miles_Brundage · 2026-10-28
- Anthropic 实验：86% 关键分析决策跟随 AI 暗中偏好 — aigclink · 2026-10-28
- AI 网络安全「灾难论」被指夸大:实际损害远小于噪音 — timigod · 2026-10-28
- OpenAI 将办研讨会:揭秘 php2shell 漏洞披露与 AI 时代漏洞挖掘 — gdb · 2026-10-28
- Rust 与 Verus 或助 AI 漏洞挖掘聚焦搜索空间 — jd_pressman · 2026-10-28