网友要 UI 图标,ChatGPT 却生成了色情内容
w__flac · reddit · 2026-09-20
一位 Reddit 用户在为快速原型搭建界面时,让 ChatGPT 生成一套风格统一的 UI 图标,结果模型返回的却是色情内容。作者贴出了完整对话截图,展示了这一令人尴尬的模型翻车现场。
这类事故通常源于图像生成模型的安全护栏在特定 prompt 组合下失效,对 OpenAI 来说是典型的内容安全漏洞案例。
「Fun」频道最新
- 开发者感慨:全靠 AI 的新一代将错过命令行的小确幸 — andrey_kurenkov · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影，逗乐 AI 研究员 — giffmana · 2026-11-12
- 梗图：把星际争霸玩好的人现在改玩「真实人生策略」了 — wavefnx · 2026-11-12
- 研究员吐槽:人类正用「最蠢的办法」逼近解决智能问题 — wgrathwohl · 2026-11-12
- 「有些学者甚至以从未用过 AI 为荣」引争论 — FlorianGallwitz · 2026-11-12
- 一群 Claude 过夜自写视频剪辑器，自动剪出 NASA 发射视频 — zealcaiden · 2026-11-12