Bo Dai 与 Yilun Du 发布 EBM 教程:用一个视角统一机器学习
daibond_alpha · x · 2026-11-20
Bo Dai 和 Yilun Du 发布教程论文《An Energy-Based Perspective on Machine Learning》(arXiv:2611.14383),主张能量模型(EBM)不只是众多模型家族之一,而是理解整个机器学习的统一视角。
- 每个 EBM 由三个选择定义:能量函数(模型表示什么)、推断过程(如何采样或优化能量)、学习方法(如何拟合能量)。
- MLE、NCE、score matching、pseudolikelihood、对抗训练等学习方法共享同一对比结构,差别只在负样本如何采样。
- 在这一视角下,判别模型、GAN、normalizing flow、扩散模型、自回归 LM、SimCLR/CLIP/word2vec/BERT、EBM 策略与世界模型、逆强化学习、规划、best-of-N 与 verifier 等推理时计算,全都是 EBM,主要差异在于配分函数和采样处理方式。
- 这一框架既能解释现有方法,也提示了新算法:保持其他组件不变、替换其中一个组件,以及能量的组合。
论文附带了完整的三大组件分类表和各方法的配分函数处理对照,兼具教学与框架参考价值。
所属事件:Bo Dai 与 Yilun Du 发布 EBM 教程:用一个视角统一机器学习(2 条相关)→
「漫话AGI」频道最新
- Lex Sokolin 播客:比 98% 对手强也没用,你看不见的浪潮会把你掀翻 — LexSokolin · 2026-11-20
- 投资人押注 Anthropic:少数能到达 RSI 的公司之一 — _arohan_ · 2026-11-20
- 经济学家 Susskind 登 Daily Show 理性谈 AI 获好评 — joshgans · 2026-11-20
- Denny Zhou:2026 年起最好的模型造出最好的数据 — denny_zhou · 2026-11-20
- LLM 时代还要不要离线思考数学?两位研究者观点交锋 — Afinetheorem · 2026-11-20
- Emad Mostaque 质疑「人在回路」:AI 快到人只剩点批准 — VraserX · 2026-11-20