合著者做解读视频：用前沿 API 合成数据微调反而不如不训
idanbeck · x · 2026-10-21
作者转推 Sara Hooker 等人的论文《Invent a Dataset》,并附上自己制作的解读视频。最反直觉的发现:在医疗问答测试中,用前沿模型 API 直接生成的合成数据微调后的模型,排名竟低于未训练的基座模型——合成数据的多样性会坍缩,且约束条件越多越严重。
所属事件:Cohere 论文：零种子数据自造数据集效果更佳(2 条相关)→
「模型」频道最新
- K线版GPT:开源模型Kronos读120亿根K线预测走势，附免费搭建教程 — Roger_M_Taylor · 2026-10-21
- 问 Fable 5.1 为何游戏工具难用，它严肃否认，Fable 5 笑着承认 — repligate · 2026-10-21
- 幽默感 Elo 榜：Gemini 4.1 Arvon 第一，GPT-5.1 Turbo 垫底仅 179 分 — jon_barron · 2026-10-21
- 8GB 显卡跑 Qwen Flash:换 STRATA+ CachyOS 后从 9t/s 飙到 48t/s — Ne00n · 2026-10-21
- David Ondrej 对谈 Ahmad Osman:本地跑 AI 全攻略与 DGX Spark 对比 — David Ondrej · 2026-10-21
- Beam 1.0 在 Excel 建模基准 EMB 上位列开源模型第 14、美国开源第一 — bigblueboo · 2026-10-21