404 Media:Copilot 人类审校员直面用户上传的隐私图片,直呼惊骇
404 Media · rss · 2026-09-28
404 Media 基于内部承包商文档披露:微软 Copilot 背后的人类审校员不仅看文本 prompt,还要审阅用户上传的图片——其中大量是露骨、涉性甚至可能违法的内容。
核心事实
- 至少数百名承包商(外包方之一为 Prolific)负责对比评估 Copilot 图像编辑输出的质量:遵循指令程度、未改动部分是否保留、伪影与整体质量,并被告知「相信你的直觉」
- 审校内容中充斥非自愿的涉性编辑请求:缩短女性裙子、放大胸部、走光照片(upskirt)、儿童卡通角色的恋足图,还有厌食症宣传内容和疑似针对未成年女孩的性暗示请求
- 承包商并非做内容审核/安全过滤,而是为「让聊天机器人回答更好」做偏好训练;有承包商在内部论坛要求上级为任务加不安全内容标记
背景与回应
- 与此前报道 OpenAI 数千名承包商审阅 ChatGPT 真实 prompt 一脉相承——用户以为私密的内容实际有人看
- 微软回应称按服务条款使用客户数据;其 AI 工具早有被滥用生成非自愿色情图像的历史(如 Taylor Swift 事件)
- 今年 3 月美国参议院行政方刚批准员工使用 Copilot
「安全」频道最新
- 美国 BIS 新规封堵境外远程调用先进 AI 芯片的漏洞 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16