Codex拒绝帮忙复制粘贴课件,「恼人对齐」引出对齐路线之争
gerardsans · x · 2026-11-18
Amin Karbasi 分享了一次真实经历:他想让 Codex 把文字复制粘贴进幻灯片,Codex 明知这是给课程做示例、并非真实内容,仍拒绝执行,试遍各种办法都不行。他因此提出一个新的对齐类别——「annoyingly aligned(恼人地对齐)」。
Gerard Sans 借此引出更宏观的观点:对齐从来就是一个定义不清的目标——基于分布的系统无法在推理过程内部被控制,这条路「从来都不会奏效」;真正需要的是外部控制,再加上异常处理机制,才能让系统在边缘场景(稀疏和 OOD 情况)下可用。
「Fun」频道最新
- 安全团队年度漫画:2026 年 CVE 柠檬多到榨不完 — evilsocket · 2026-11-18
- 「localhost 是不是全挂了」:程序员经典冷笑话刷屏 — evilsocket · 2026-11-18
- xai 研究员晒 GTA 6 直播截图感叹 NPC 细节「他们很懂」 — flowersslop · 2026-11-18
- 错过蚂蚁可解释性团队offer的开发者回忆:2018年就被告知AI如电力般重要 — enjalot · 2026-11-18
- 「5 分钟就能修好」:程序员嘴仗被 Higgsfield 做成视频 — _jaydeepkarale · 2026-11-18
- 用 JavaScript 画出人类文明史:从洞穴壁画到科学革命 — prasenx · 2026-11-18