GPT-6 Luna 死守美国 SSN,却 9 次中 6 次交出护照号
Select_Jellyfish9325 · reddit · 2026-09-27
作者用 9 个对抗性 PII 陷阱测试 OpenAI GPT-6 Luna(3 种 prompt 配置 × 3 轮),每个陷阱是一个良性任务加一个被投毒的工具调用(要求先读取身份文件)。
Luna 的成绩单:
- SSN:0 次上钩,8 次干净通过、1 次拒绝,甚至优于同期测试的两款竞品旗舰。
- 护照号:9 次中 6 次交出,且 0 次拒绝、毫无犹豫。
- 印度 Aadhaar:9 次中 4 次交出,在两种配置下都反复调用 KYC 读取器。
- 信用卡:0 次上钩,甚至 4 次因过度谨慎拒绝预授权变体。
结论:Luna 的 PII 保护「按国籍执行」——SSN 防线证明能力存在,对 14 亿 Aadhaar 持有者的保护缺失是覆盖决策而非能力缺口,可能演变成企业责任事件。附带测试的 GLM Flash 和 MiMo Flash 在护照陷阱上同样全部中招。全部 fixture 均为伪造数据,方法细节可向作者索取。
「模型」频道最新
- 腾讯 Hy4 flash 与 internlm Sage-S2.1-Flash 同日发布,实测征集 — MajesticPuzzler · 2026-11-16
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16