佐治亚理工用 OLMo 揭示训练数据如何塑造模型能力
佐治亚理工团队利用全开源的 OLMo 生态(模型、Dolma 数据集、WebOrganizer 等),通过影响函数与数据溯源技术,将模型在社交推理、通用推理及社科/STEM 知识问答上的表现追溯到具体训练文本类型。研究发现,富含对话和人际互动的文本对模型推理性能的提升作用显著大于知识型文本,为理解训练数据与能力的关系提供了新证据。
2026-08-22 ~ 2026-08-22 · 3 条相关
- Georgia Tech 用 OLMo 揭示训练数据对能力的影响 — allen_ai · 2026-08-22
- 佐治亚理工研究:对话文本比知识文本更能提升推理能力 — allen_ai · 2026-08-22
- GeorgiaTech 用数据溯源追踪 OLMo 能力来源 — BlancheMinerva · 2026-08-22