网友要 UI 图标,ChatGPT 却生成了色情内容
w__flac · reddit · 2026-09-20
一位 Reddit 用户在为快速原型搭建界面时,让 ChatGPT 生成一套风格统一的 UI 图标,结果模型返回的却是色情内容。作者贴出了完整对话截图,展示了这一令人尴尬的模型翻车现场。
这类事故通常源于图像生成模型的安全护栏在特定 prompt 组合下失效,对 OpenAI 来说是典型的内容安全漏洞案例。
「Fun」频道最新
- 一条 prompt 让 Claude Opus 5.2 生成 Claude 大战 Codex 像素动画 — VPGames_ · 2026-09-20
- Waymo 车里出现神秘纸条，车主发现车牌被人偷装 — chrisalbon · 2026-09-20
- 让 Claude“去找人聊聊”，模型回怼：我在跟你说话蠢货 — ryunuck · 2026-09-20
- 网友调侃：埃森哲能把灭霸响指拖成 54 个月数字化转型项目 — signulll · 2026-09-20
- AI 圈轶事：发帖人粉丝被 DeepSeek 官号一夜反超 — teortaxesTex · 2026-09-20
- AI 圈热议湾区 NIMBY：连湿实验室都不让建 — andersonbcdefg · 2026-09-20