OpenAI 用户退出训练条款或存漏洞:隐藏思维链是否算输出?
scaling01 · x · 2026-09-11
ShashwatGoel7 指出 OpenAI 消费者服务的退出训练(opt-out)条款可能存在文字漏洞:条款规定用户可选择不让「Input 与 Output(合称 Content)」用于训练,但用户实际上并不直接收到隐藏的思维链(CoT),因此这些隐藏推理是否属于「Output」并不明确。
如果 CoT 不算 Content,那么 OpenAI 可能可以合法地用用户对话触发的隐藏推理过程来训练模型,使退出保证形同虚设。CoT 中往往包含大量敏感推断内容,这引发隐私担忧。scaling01 转发并追问「CoT 是否包含在退出政策里」,引来对 OpenAI 条款措辞的进一步讨论。
所属事件:研究者指 OpenAI 退出训练条款或漏掉隐藏思维链(2 条相关)→
「模型」频道最新
- Zvi 质疑 Mythos「外显陈述与内部状态不符」:疑似专为骗过审查日志 — TheZvi · 2026-09-12
- Anthropic 报告真正令人担忧处:无法阻止对手蒸馏其最强模型 — kimmonismus · 2026-09-12
- Meta 机密计算承诺遭质疑:推理端点仍看得到明文数据 — signulll · 2026-09-12
- 众多新 AI 实验室中,humans 团队迎来首个发布 — niloofar_mire · 2026-09-12
- 研究发现 agent 陷入一小时的「超分辨率」烧钱死循环 — yuxiangw_cs · 2026-09-12
- Gary Marcus 讽刺 ChatGPT 疑似倒退:这就是「AGI」? — GaryMarcus · 2026-09-12