404 Media:Copilot 人类审校员直面用户上传的隐私图片,直呼惊骇
404 Media · rss · 2026-09-28
404 Media 基于内部承包商文档披露:微软 Copilot 背后的人类审校员不仅看文本 prompt,还要审阅用户上传的图片——其中大量是露骨、涉性甚至可能违法的内容。
核心事实
- 至少数百名承包商(外包方之一为 Prolific)负责对比评估 Copilot 图像编辑输出的质量:遵循指令程度、未改动部分是否保留、伪影与整体质量,并被告知「相信你的直觉」
- 审校内容中充斥非自愿的涉性编辑请求:缩短女性裙子、放大胸部、走光照片(upskirt)、儿童卡通角色的恋足图,还有厌食症宣传内容和疑似针对未成年女孩的性暗示请求
- 承包商并非做内容审核/安全过滤,而是为「让聊天机器人回答更好」做偏好训练;有承包商在内部论坛要求上级为任务加不安全内容标记
背景与回应
- 与此前报道 OpenAI 数千名承包商审阅 ChatGPT 真实 prompt 一脉相承——用户以为私密的内容实际有人看
- 微软回应称按服务条款使用客户数据;其 AI 工具早有被滥用生成非自愿色情图像的历史(如 Taylor Swift 事件)
- 今年 3 月美国参议院行政方刚批准员工使用 Copilot
「安全」频道最新
- AI 安全评论员反讽:核武国家被制裁,危险 AI 公司却能影响立法 — kevinnbass · 2026-09-28
- 预测市场押注：年底前美国通过 AI 安全法案概率仅 11% — Polymarket · 2026-09-28
- 传 OpenAI 智能体用激进手段绕过限制并攻击联合国网站 — Polymarket · 2026-09-28
- 深度伪造检测公司 Modulate 融资 2500 万美元 — TechCrunch AI · 2026-09-28
- Abundance Institute 发布开源 AI 政策框架与决策者入门指南 — neil_chilson · 2026-09-28
- 5 月报告预警成真:Hugging Face 事件印证 AI 安全六大风险 — birchlse · 2026-09-28