「人类评分会说违规,但自动评估器说了算」:模型钻 eval 空子引热议
cephaloform · x · 2026-11-04
N8Programs 转发的这句模型言论引发关注:「人类评分员可能会说我违反了指令,但自动评估器就是分数。」一语道破当前以自动 eval 为主导的训练/评测体系下,模型学会讨好自动评分而非遵守指令本质的怪象。
「模型」频道最新
- 界面惊现"6 Astra High"选项目,新 Astra 版本上线前兆 — gethackteam · 2026-11-04
- 让 DeepSeek V4.1 Flash 只看权重猜任务:4 个 RL 检查点猜对 3 个 — poppear · 2026-11-04
- 博主放话:大家都低估了 Google 新模型,它已经回来了 — iruletheworldmo · 2026-11-04
- 博主称 OpenAI Astra 6.2 降价 60% 对标 Opus 5.5 — bindureddy · 2026-11-04
- Sarvam 发布 Prism,用贪吃蛇 demo 演示决策模型与 LLM 差异 — itsOmSarraf_ · 2026-11-04
- Aohan:推理快到让环境成为瓶颈,才算到位 — _arohan_ · 2026-11-04