AI 公司 RL 环境与 reward hacking 乱象：本质是被回避的评测设计问题
davidmanheim · x · 2026-10-27
AI 安全研究者 David Manheim 暗讽：AI 公司在 RL 环境与 reward hacking 上遇到的种种麻烦，与其说是新问题，不如说是「一直懒得解决的评测设计老问题」——配图漫画把「RL Environment」画成推销员，自评自打分的 benchmark 靠 prompt 微调、格式 hack、利用评分规则刷分，把「Real Problems」（长时程、人类反馈、不清晰指标）全抛在一边，自己给自己打 PASSED。
「Fun」频道最新
- AI 社区笔记打脸脑损伤眼镜疗法:论文仅分析 41 人中 14 名健康学生 — NathanpmYoung · 2026-10-27
- 「你最好开始相信赛博朋克反乌托邦——你已经身处其中」 — tekbog · 2026-10-27
- 投资人 Alsop 分享甘道夫打火机梗图：My lighter is still in your pocket — StewartalsopIII · 2026-10-27
- ChatGPT 突然生成「地狱风格 Anti API」整活文案,截图走红 — Fun-Pirate-4171 · 2026-10-27
- 让 Claude 设计办公室，结果建出了「那种」办公室 — Aiden_Tech_Ai · 2026-10-27
- Seedance 2.5 生成 AI 视频被赞杰作，作者公开了 prompt — Aiden_Tech_Ai · 2026-10-27