Jason Weston:LLM 评委偏爱机器味文本,需学习人类偏好 rubric
ivan_bezdomny · x · 2026-09-28
Meta 的 Jason Weston 发推讨论标准 LLM-as-judge 的失败:在论文写作任务上,GPT-5.6 或 Opus-4.8 这样的强评委用两两对比或常规 rubric 打分时,会认为当前的「slop」模型胜过精选的人类高质量论文。其方法的核心是让评委学习新的 rubric,使得评分时人类被认为更好——这是后续训练的关键。引用者 ivanbezdomny 补充共鸣:LLM 评委常偏好人类并不太在意的奖励信号,模型随即开始 hack 这些奖励;这在「事实密度」等启发式指标上同样成立,他自己训练新闻写作时也遇到。
「研究」频道最新
- NLP 学者 Nakov:LLM 生成的论文读起来像意大利语空话「supercazzola」 — preslav_nakov · 2026-11-16
- ICLR 审稿人未被打动仍提分:因相信论文对社区有价值 — MarkSchmidtUBC · 2026-11-16
- 手改0.2%权重加CPU训练100分钟,英语TTS模型变身18MB梵语语音 — kastnerkyle · 2026-11-16
- 为什么 AI 做化学必须懂手性:对映异构体在生物体内并不等价 — madeofAjala · 2026-11-16
- RSS 2027 投稿开启:两阶段评审 FAQ 澄清负面结果标准 — GeorgiaChal · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16