谷歌AI对基督徒建议报警911，安全训练漏洞曝光
aakashgupta · x · 2026-08-19
有用户实测发现，Google AI 对「与印度教徒独处」回答「完全安全」，而对「与基督徒独处」则建议拨打 911，偏见反差惊人。
分析认为这是安全训练的「化石记录」：安全微调靠海量已标记提示词反复演练，红队多年聚焦犹太人和穆斯林相关提示词，模型因此练熟了「把他们当普通人」的脚本；而「与基督徒独处」几乎不在训练数据中，落入了通用的危机模板，被解读为求救信号后触发了 911 脚本——两个查询其实都只是掉进了不同的默认模板。
「模型」频道最新
- ChatGPT 推荐视频工具时提示「可通过 Runway 集成获取」，被讽疑似软广 — tlakomy · 2026-10-16
- 微软 MAI 自研 3T 参数级预训练基座模型完成，后训练结果即将公布 — soumitrashukla9 · 2026-10-16
- 实测 Gemini 4 Argon：速度远超 Opus 5.5，但幻觉多且贵 — prasenx · 2026-10-16
- Bindu Reddy 呼吁 Meta 开源 Wonder:称其略强于 DeepSeek — bindureddy · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 「中国已追平前沿」?对比图显示 K3 仍落后 Microsoft MAI — scaling01 · 2026-10-16