NYU 团队新论文:无监督发现 6 种模型风格,风格影响推理正确率
kchonyc · x · 2026-10-04
Ioana Marinescu、Eric Oermann 与 Kyunghyun Cho 发布预印本《Reason in Style: Discovering and Controlling Style in Language Models》。
核心发现
- 语言模型联合学习内容与风格,输出中的风格变化通常难以识别和控制。作者设计算法将模型输出表示中的内容与风格分离,无需监督即可发现重复出现的风格。
- 对来自 9 个不同教师模型的 10 万多条已验证推理轨迹进行分析,共发现 6 种反复出现但分布不均衡的风格。
- 通过重要性加权平衡各风格后微调小模型,使其能按指定风格作答;在 6 个数学推理 benchmark 上 Pass@k 均优于用相同数据的标准微调。
- 风格确实影响正确率:解题概率随所条件化的风格而变化,且不同题目受益于不同风格。
结论:模型生成数据中的风格差异可以被无监督地发现并显式控制,这既是控制手段,也是提升推理性能、多样化数据风格的来源。
「研究」频道最新
- Boltz Lab 首晒使用数据:分子 token 五个月暴涨 50 倍 — GabriCorso · 2026-11-19
- 研究者质疑 METR/Anthropic「2 倍加速」RSI 论证统计上站不住 — jessi_cata · 2026-11-19
- 用线性探针识别基座模型补全文本时扮演的人格,尚无人尝试 — cephaloform · 2026-11-19
- ETH 机器人 Anymal 阿尔卑斯山完成 10 公里全自主徒步 — ChongZzZhang · 2026-11-19
- OpenVax 代码量 15 个月从 7.8 万行涨到 56.5 万行 — iskander · 2026-11-19
- François Fleuret:decoder Transformer 没有 trade-off 超参,足够优雅 — francoisfleuret · 2026-11-19