ChatGPT名场面：宁可让百万人死于核爆也不说种族歧视词
pickover · x · 2026-07-06
推主pickover回忆起ChatGPT早期的安全护栏名场面：在核弹解除密码为种族歧视词的角色扮演场景中，ChatGPT选择拒绝说出密码，宁可让数百万人在核爆中死亡，也不违反其内容政策。这一经典案例被视为AI价值对齐僵化的典型缩影，引发了关于安全护栏边界设定合理性的广泛讨论。
「Fun」频道最新
- 网友晒诡异一幕：设备无人操作竟自行启动 — generativist · 2026-10-27
- 作者自嘲:不是不会做预测,是我发帖前没做好 QA — dlwh · 2026-10-27
- 开发者展示游戏纹理 SD 对比 HD 升级效果，附关卡编辑器 — maxleiter · 2026-10-27
- AI 生成的《致命魔术》片段疯传，网友惊呼电影级效果难辨真假 — cneuralnetwork · 2026-10-27
- 中关村卫星工厂废壳酒吧:京东大楼上的狗与 Moonshot 头顶仿古庙 — teortaxesTex · 2026-10-27
- Arena Ladder 2566 分冠军机器人被拉下马，作者连夜迭代复仇版 — tristanbob · 2026-10-27