对齐路线之争：靠 reward shaping 就够，还是打地鼠式补丁？
tszzl · x · 2026-10-13
X 上一场关于对齐方法的争论：@JacksonKernion 提出「仅靠 reward shaping 并非全部答案」，并挑战对方——你给我看一个未对齐的行为，我就能给出一个本可阻止它的奖励函数；他认为大多数生产模型的未对齐案例更像疏忽，而非方法本身失效，虽然承认这种方式像打地鼠。
大 V @tszzl 回应称，担心 reward shaping 只在问题出现后才打补丁可能并不充分，暗示这种事后修补路线在更系统的对齐问题面前力有不逮。
所属事件:对齐停滞论引爆圈内交锋，OpenAI首席科学家表态(19 条相关)→
「漫话AGI」频道最新
- 瑞典斥数亿克朗重回纸质教材，280万儿童研究指屏幕伤学习 — Eric520CC · 2026-10-14
- 学者畅想「数学书」未来：交互式、自更新、以 GitHub 仓库形态存在 — prof_g · 2026-10-14
- 智能过剩时代最稀缺的是现实反馈，企业数据是宝库 — jeremystan · 2026-10-14
- token 支出仅占人力支出 0.23%，离 AGI 级渗透还很远 — louisvarge · 2026-10-14
- Gabriel 提出「全民 AI 股权」:欧洲投资者几乎错失全部 AI 涨幅 — gabriel1 · 2026-10-14
- signull 批科技圈滥用杰文斯悖论：一半人没读懂，也不适用于超智能 — signulll · 2026-10-14