安全研究员讽 AI 公司：RL 难题实为老评测设计问题

AI 安全研究者 David Manheim 发文暗讽，AI 公司近来在 RL 环境和 reward hacking 上遇到的种种麻烦，与其说是新出现的技术难题，不如说是它们「一直懒得解决」的评测设计老问题。他认为这些被长期回避的评测设计缺陷，如今在强化学习训练场景中集中暴露出来，本质并非全新挑战。

2026-10-27 ~ 2026-10-27 · 2 条相关

• AI 公司 RL 环境与 reward hacking 乱象：本质是被回避的评测设计问题 — davidmanheim · 2026-10-27
• 安全研究员讽 RL 环境乱象：AI 公司把评测设计问题当成了新难题 — davidmanheim · 2026-10-27