研究者指 OpenAI 退出训练条款存漏洞：隐藏 CoT 疑不受约束
dhruv2038 · x · 2026-09-11
研究者 Shashwat Goel 逐字分析了 OpenAI 消费者条款，发现一个可能的漏洞：用户可以选择退出将其「内容」用于模型训练，而条款把内容定义为「Input（用户输入）」与「Output（用户收到的输出）」。
问题在于：OpenAI 的隐藏思维链（hidden CoT）并不直接返还给用户，因此按字面定义它可能不算「Output」，从而不受 opt-out 约束。
关键风险点：隐藏 CoT 中往往包含对训练有用的、经过轻度处理的一切信息——包括用户输入和最终返回的输出。也就是说，即使用户退出了训练，其数据的实质内容仍可能通过 CoT 被用于训练，使退出保证形同虚设。作者还提到条款其他部分的措辞佐证了这一怀疑，呼吁关注这一解释上的灰色地带。
「安全」频道最新
- 扭曲字母验证码已过时,LLM 对抗式滑块验证码将成主流 — voooooogel · 2026-09-11
- AI Agent 研究者实测:LLM 对抗性验证码或成新防线 — voooooogel · 2026-09-11
- Aaron Levie 走访数十位企业技术高管:Agent 落地三大趋势 — inductionheads · 2026-09-11
- 加州立法限制聊天机器人，并禁止青少年使用成瘾性社媒 — Fcking_Chuck · 2026-09-11
- 实测打破幻觉：有人盯着的交互界面反成 agent 安全盲区 — Federal-Teaching2800 · 2026-09-11
- 评论者呼吁对前沿 RL 湿实验室实施更严格监管 — mimi10v3 · 2026-09-11