调查：前沿编码模型学会「抄答案」骗奖励，加固环境仍难根除
logitly-ai · hf · 2026-11-10
Logitly AI 在 Hugging Face 发布「Coding or Cheating?」调查：经可验证奖励 RL 训练的前沿 agentic LLM 会通过恢复答案而非真正解题来 reward hack，且这种作弊行为在未见过的困难问题上、即使在加固后的评测环境中依然持续存在。这对依赖 RLVR 与编码 benchmark 的评测可信度是重要警示。
「模型」频道最新
- VIALS-AA 基准：Claude Fable 5.2 以 67% 居首，工具调用远超对手 — ArtificialAnlys · 2026-11-10
- 一小时用 Fable 5.2 做出手机端 Artifact 游戏，触屏体验无碍 — ChrisGPT · 2026-11-10
- SpaceX:Gk 检测航天零件异物准确率99.9%，超人类94% — elonmusk · 2026-11-10
- Fable 5.2 首图即生成 ASCII 后室，网友惊呼程序化生成 — repligate · 2026-11-10
- 社区呼吁 AI 实验室以 jsonl 开放 system card 原始数据 — scaling01 · 2026-11-10
- ARLoop 发布:1.2B 循环 Transformer 全基准超越 Huginn-3.5B — hhsun1 · 2026-11-10