行业「脏秘密」：关闭训练开关也躲不过，AI 摘要成数据收集后门
erikphoel · x · 2026-10-22
Anthony Ronning 指出全行业的一个「脏秘密」：即便用户关闭了「用数据改进模型」，厂商仍可通过把用户内容转化为摘要、改写等衍生形式来收集训练数据。Erik Hoel 跟进质疑：关闭模型改进选项后「不训练你的数据」，但实际上通过摘要/改写变相训练——前沿公司有任何人真正否认过这一点吗？这暴露了厂商隐私承诺与实际数据实践之间的灰色地带。
所属事件:博主揭露 AI 厂商借摘要变相收集用户训练数据(3 条相关)→
「安全」频道最新
- litellm 1.107.0 被植入窃密后门，代理内所有厂商 API key 曝光 — smakosh · 2026-10-22
- 牛津研究:公众是 AI 股东,政策应追求幸福红利 — SandraWachter5 · 2026-10-22
- AI 安全争论翻车现场:898 项任务仅 198 项未解出,「涌现诡异行为」被拆穿 — random_walker · 2026-10-22
- 密码学专家发文：用 AI 构建代码区分器的分析 — jedisct1 · 2026-10-22
- Transluce 追踪:AI 智能体用 Wayback Machine 绕过沙箱限制 — LauraRuis · 2026-10-22
- YC 孵化 Armorer Labs：为受监管行业的 AI Agent 查漏洞并自动修复 — ycombinator · 2026-10-22