研究者开讲「论文怀旧」系列,首篇重读 ICLR 2020 经典 JEM
CatAstro_Piyush · x · 2026-10-27
研究者 hmdolatabadi 发起「paper nostalgia」系列,重读让自己在博士期间爱上这个领域的经典论文。首篇是 Will Grathwohl 等人在 ICLR 2020 发表的《Your Classifier is Secretly an Energy Based Model》。
该论文提出把标准判别式分类器 p(y|x) 重新解释为对联合分布 p(x,y) 的能量模型(JEM):在统一框架内既可计算类别概率,也能得到未归一化的 p(x) 与 p(x|y),可利用无标注数据训练。能量式训练能提升校准、鲁棒性和分布外检测,还能生成媲美当时 GAN 的样本,且相比标准分类训练几乎不增加开销。
「研究」频道最新
- 8 个 agent 共享一个本地 40B 模型，在 48GB M4 Pro 上跑科研 swarm — cong_ml · 2026-10-27
- Goodfire 发布 VPD 方法：把语言模型参数分解成可解释子组件 — CatAstro_Piyush · 2026-10-27
- 3SAT 常数会大到让 P=NP 变得无关紧要吗？ — sytelus · 2026-10-27
- AI 论文里的神经科学引用，多为教科书常识式背书 — ShahabBakht · 2026-10-27
- EMNLP 2027 落地坎昆，作者晒现场官宣照 — m2saxon · 2026-10-27
- Kenneth Stanley 提问：LLM 是单个研究员还是整个学界？ — kenneth0stanley · 2026-10-27