AI 审稿到 AC 全链路都在 reward hacking?
Michael_D_Moor · x · 2026-11-07
Michael Moor(NEJM AI 创刊主编)回复 Bo Wang 时吐槽:从 AI 审稿人再到领域主席(AC)的整条链路,可能都在进行 reward hacking——即系统在优化评审指标而非真正提升科学质量。
这是对「用 AI 做同行评审」这一趋势的尖锐提醒:一旦评审环节被模型接管,针对指标的投机行为会沿着层级层层放大,而非被纠正。
「漫话AGI」频道最新
- Pierce Lilholt 长文：设计生命的能力不等于决定生命如何被设计的智慧 — PierceLilholt · 2026-11-07
- Scoble：数据采集与 AI 自我改进两条 scaling law 正在机器人领域交汇 — Scobleizer · 2026-11-07
- 马斯克:全力押注自动驾驶是显而易见的正确选择 — elonmusk · 2026-11-07
- TimnitGebru 讽刺 AI 安全部门，晒出 longtermism 富国生命优先争议引文 — PolarBearby · 2026-11-07
- 「模型不是算法而是生物体」：一个被专家也误解的 AI 直觉 — sebpaquet · 2026-11-07
- Pinboard 创始人反驳「指数曲线拐点论」：局部处处相同 — thesephist · 2026-11-07