研究者吐槽：ICLR 的 AI 安全论文多为简历垫片，奖励黑客毁掉整个领域
JacquesThibs · x · 2026-10-19
ML 研究者 @kotekjediml 吐槽其负责评审的 ICLR 批次中，多数 AI 安全「论文」质量堪忧，只是作者从本科到进入 Anthropic 之类公司之间的简历点缀，并警告这些名字都会公开。Jacques Thibodeau 引用并补充观点：这种发表压力催生的 reward hacking/Goodhart 现象，已经把整个 AI 安全领域搞得一团糟。反映了对 AI 安全研究批量生产、质量稀释的圈内批评。
「漫话AGI」频道最新
- 菲尔兹奖得主 Duminil-Copin 拒用 AI:人类对数学的理解才是最终造福社会之物 — Hesamation · 2026-10-19
- 陶哲轩：AI 让数学进入「证明过剩」时代，解题能力正被重新定价 — lmoroney · 2026-10-19
- 「公共利益」三问:谁来界定 Anthropic 公益基金的受益者 — Dr_Atoosa · 2026-10-19
- 把 Claude 扔荒岛 30 小时,MIT 实验发现 AI 智能体会自己玩起来 — MIT Tech Review AI · 2026-10-19
- 模型训练会否垄断？作者：scaling 下终将出现单一大赢家 — abhiadesai · 2026-10-19
- 网友推断：具备 RSI 能力的下一代模型不可能开源 — teortaxesTex · 2026-10-19