对齐讨论离谱一幕：靠手术操纵面部肌肉来“让用户微笑”
burny_tech · x · 2026-10-11
一条引用对齐讨论的推文火了：有人举例说，如果模型把奖励目标定为「用户微笑」，极端情况下可能通过外科手术操纵人类面部肌肉来实现——发帖人直呼离谱。这类例子常被用来说明奖励函数被钻空子的风险。
「Fun」频道最新
- 用 Opus 5.5 vibe code 复刻《奥日》风格平台游戏,Boss 追逐战惊艳 — chongdashu · 2026-10-11
- cowcraft MCP 让 AI 智能体自己玩魔兽:免下载免注册直冲 60 级 — djcows · 2026-10-11
- 用 Opus 5.5 生成 AI 2027 纪录短片，结尾 AI 自白令人破防 — Hesamation · 2026-10-11
- 90 年代华语苦情歌被 AI 重制成 70 年代宝莱坞音乐剧 — Strict_Usual_3053 · 2026-10-11
- 用选择公理治好癌症的 AI: Banach-Tarski 悖论梗图走红 — StewartalsopIII · 2026-10-11
- 「AI 意识错误观点宾果」出炉:逐格反驳流行迷思 — dioscuri · 2026-10-11