因果基础模型来了:预训练一次,上下文学习估算因果效应
burny_tech · x · 2026-09-06
arXiv 新论文《Causal Foundation Models》(Stith、Rahmani、Cresswell)提出把基础模型范式引入因果推断。
- 传统因果推断每个新问题都要定制流程:提出因果机制、选相容的估计器、再训练模型;而机器学习主流已转向「一次大规模预训练、免微调迁移到新任务」的基础模型范式
- 因果基础模型(CFM)是预训练好的神经网络,通过 in-context learning 在全新数据集上估算平均处理效应(ATE)等因果量,无需更新模型参数
- 论文定位为该新兴方向的入门综述,涵盖因果推断与机器学习背景,并附带示例代码和 Jupyter notebook(代码已开源)
所属事件:arXiv 论文提出「因果基础模型」：预训练一次即可估算因果效应(2 条相关)→
「研究」频道最新
- AI 或将独力解出 Navier-Stokes 难题,却几乎不给数学留下价值 — NathanpmYoung · 2026-09-06
- 斯坦福 cs336 课程致谢 NoPE 位置编码研究 — xhluca · 2026-09-06
- 1.5B 小模型实测：来源分级验证让本地 Agent 不再「自信地错」 — UzairArain554 · 2026-09-06
- MasonKamb 抛争议观点：梯度下降是 LLM 与人类认知分歧的原罪 — _arohan_ · 2026-09-06
- Chris Potts 讲解隐学习与可解释性:IPAM 研讨会演讲开放观看 — ChrisGPotts · 2026-09-06
- arXiv 论文:单一指标评估 LLM 鲁棒性会误导,需多层级分析 — burny_tech · 2026-09-06