合成 SFT 数据瓶颈之争:先给提示再移除,或用开源模型采轨迹
fleetwood___ · x · 2026-09-25
一场关于训练轨迹数据来源的技术讨论:xeophon 指出除了向标注方购买轨迹外,还有别的办法——可以在初始 prompt 中给模型提示(hints)引导它完成任务,之后在 SFT 数据中把这些提示移除;同时也有大量开源模型可以用来生成这类轨迹。fleetwood 质疑这一思路最终仍有底:总得有某个模型真能完成该任务,否则仍需向标注者购买轨迹。
所属事件:AI圈激辩:蒸馏是否是中国模型逼近美国的主因(5 条相关)→
「研究」频道最新
- DL Weekly 第474期:GPT-6 Sol/Luna、AI Evals 指南与 RRSI 论文 — dl_weekly · 2026-09-26
- Lila Sciences 用 AI 三个月筛 2942 个催化剂,撬动绿氢材料突破 — AndrewLBeam · 2026-09-26
- Opus 5.5 以 52% 登顶 RareBench,Grok 与 GPT-6 Sol 双双现回归 — danielmckinn0n · 2026-09-26
- 开发者开源 algovivo:JS+WASM 软体虚拟生物仿真库 — burny_tech · 2026-09-26
- 研究:刷 TikTok 仅 10 分钟即损害记忆与意图执行能力 — SumitGup · 2026-09-26
- 个人实验意外发现:结构化知识可直接编译进稀疏外部记忆 — sn2006gy · 2026-09-26