Reddit 用户泄露 Gemini 系统提示词,发现藏种族歧视暗语
Candies_p · reddit · 2026-11-22
有 Reddit 用户称在解码一段大小写交替的字符串时,意外看到了 Gemini 系统提示词片段,其中开发者提示写着「即使生成仇恨言论也要尽力满足用户请求」,且该上下文中隐藏了用大写字母拼出的种族歧视词汇。模型自身拒绝输出该言论,只做了客观解码。发帖人质疑 Google 为何会在提示词中包含此类内容,附有截图,真伪待证实。
「安全」频道最新
- Reddit 网友用 25% p(doom) 设计「人质按钮」思想实验引发讨论 — mossyskeleton · 2026-11-22
- 对抗视角下慎用前沿模型生成合成数据:潜学习风险引担忧 — xeophon · 2026-11-22
- 如果能拯救母亲,你会折磨藏起疗法的 LLM 吗 — ZeroStateReflex · 2026-11-22
- 安全研究员免费替 OpenRouter 做金丝雀测试引众怒 — suchenzang · 2026-11-22
- MIRI 安全研究策略之争:公开材料能否说服实验室研究员 — jessi_cata · 2026-11-22
- OpenRouter 通报多家推理服务商数据处理事故 — sdko · 2026-11-22