64 人评 2330 组对决:后训练让 LLM 更好笑,但笑话多样性明显下降
Gold-Bat-3225 · reddit · 2026-09-30
研究团队对「后训练是否让 LLM 更好笑」做了系统实验,选用全程公开训练阶段的开放模型,追踪从 base 到 instruct 的 11 个训练阶段(Tulu 3 基于 Llama 3.1 70B、OLMo 3.1 32B、Qwen2.5),用 100 条笑话 prompt、64 名人类评审、2330 组两两对决得出结论:后训练确实让模型更好笑,但付出了多样性代价。
主要发现:
- 7 个训练步骤中 5 个,后训练后模型笑话被评委判定更有趣;早期后训练后笑话平均缩短 10-20 词,更快抖包袱
- 7 个步骤中 6 个,同一 prompt 下的多个笑话变得更相似——要 8 个笑话只能得到同一笑话的 8 个版本,降幅最大的是 Qwen2.5 base→instruct
- 让模型先规划一两句再写笑话,在全部 4 个模型上都降低了多样性,且没有可靠的趣味提升
- 「喜剧演员」人设能在 4 个模型上挽回部分多样性,但只在其中 2 个上让笑话变得更好笑
方法:人类评审只对比 base 与最终模型,再用校准过的模型评委比较中间阶段。完整报告与论文见 laugh.so/research/humor-tax。
「研究」频道最新
- UniMate 开源：一个模型统一驱动多种骨骼的文本生成动画 — grandorganics · 2026-09-30
- kalomaze：直通估计器在二值权重反向传播下其实完全可用 — kalomaze · 2026-09-30
- 新论文提出 RGI:数据流才是塑造 LLM 泛化的关键变量 — zhuoran_yang · 2026-09-30
- GamowLabs 发布 LabBench：AI agent 难以选对下一个关键实验 — danielmckinn0n · 2026-09-30
- Toby Ord:λ 高度依赖任务,AI 研发极限并行化才是关键问题 — tobyordoxford · 2026-09-30
- davidad 上线交互页面，可视化测试贝叶斯认知模型 — davidad · 2026-09-30