Cresta 研究者称强骨干模型无需专用合成数据
Cresta 研究者 Antoine Chaffin 回应 Maxime Rivest 关于骨干模型落地产品的提问,表示当前骨干模型已足够强大,多数常见任务尚未进入必须依赖专用合成数据的阶段。理论上可将任务转为 MCQA、从解码层解码候选标记实现零样本;实践中只需解除因果掩码,用足够的自然数据做小规模微调即可获得出色性能,他预期未来情况才会变化。
2026-10-10 ~ 2026-10-10 · 4 条相关
- Antoine Chaffin:骨干模型已足够强,无需合成数据 — antoine_chaffin · 2026-10-10
- Maxime Rivest 追问:骨干模型到可用产品需要改权重吗 — MaximeRivest · 2026-10-10
- Cresta 研究者:强骨干模型加少量微调即可超越依赖合成数据 — antoine_chaffin · 2026-10-10
- Antoine Chaffin:多数常见任务尚不需要专用合成数据 — antoine_chaffin · 2026-10-10