Cohere 团队论文:零种子数据造数据集,质量高 17% 多样性高 19%
idanbeck · x · 2026-10-21
arXiv 论文《Invent a Dataset》(Shivalika Singh、Sara Hooker 等)研究 AI 开发中最极端也最常见的「零数据」场景:目标能力完全没有训练数据。其基于 prompt 的系统可直接从数据集描述生成大规模真实后训练数据。
- 对比 5 家前沿模型 API(Anthropic、Google、OpenAI、DeepSeek、智谱),覆盖 8 类任务、数据集规模至 2 万条
- Invent-A-Dataset 质量相对提升 17%,样本多样性相对提升 19%
- 多样性优势随规模扩大:200 条时持平,2 万条时领先 37%
- 用其数据微调的模型在各架构下稳定排名更高;而直接用前沿 API 原始合成数据微调,在医疗 QA 测试中甚至低于未训练基座
结论:合成数据的关键不在「用最强模型生成」,而在系统性地保障多样性与真实性。
所属事件:Cohere 论文：零种子数据自造数据集效果更佳(2 条相关)→
「模型」频道最新
- 中文 X 热议：智谱、Kimi、DeepSeek 三种开源哲学的段子 — teortaxesTex · 2026-10-21
- 用 41 种蓝色按钮实测 AI agent:它们真的对某些颜色有偏好 — danshipper · 2026-10-21
- Persimmon 发布 Amp：长程模拟训练的智能体模型 — Diyi_Yang · 2026-10-21
- Grok 翻译《庄子》「蟪蛄不知春秋」,KOL 感叹模型在进化 — teortaxesTex · 2026-10-21
- 初创 humans& 发布协作模型 Ampersand，主打「为人协作」而非替代 — niloofar_mire · 2026-10-21
- K线版GPT:开源模型Kronos读120亿根K线预测走势，附免费搭建教程 — Roger_M_Taylor · 2026-10-21