ChatGPT名场面：宁可让百万人死于核爆也不说种族歧视词
pickover · x · 2026-07-06
推主pickover回忆起ChatGPT早期的安全护栏名场面：在核弹解除密码为种族歧视词的角色扮演场景中，ChatGPT选择拒绝说出密码，宁可让数百万人在核爆中死亡，也不违反其内容政策。这一经典案例被视为AI价值对齐僵化的典型缩影，引发了关于安全护栏边界设定合理性的广泛讨论。
「Fun」频道最新
- 小女孩把同志婚礼着装解读为「princessmaxxing」萌翻路人 — anderssandberg · 2026-09-11
- 「革命将受 token 上限约束」:一句梗道尽上下文窗口之苦 — AIandDesign · 2026-09-11
- 从业者共鸣:怀念应用的人工手艺、人类写作与技术争论 — vboykis · 2026-09-11
- 「见到卖课大师就霸凌到他退网」:伪禅宗语录讽刺 X 卖课潮 — DionysianAgent · 2026-09-11
- antirez 吐槽：封面放震惊脸的 YouTube 视频一律不看 — antirez · 2026-09-11
- 无CGI哈利·波特画面生成翻车，被讽对齐团队尽职尽责 — gaganghotra_ · 2026-09-11