Frank Nielsen 论文:duo Bregman 散度统一嵌套指数族的 KL 散度计算
FrnkNlsn · x · 2026-09-20
Frank Nielsen 介绍其论文《The duo Bregman and Fenchel-Young divergences》(arXiv:2202.10726,发表于 Entropy 2022)。
- 通过计算属于不同指数族的两个概率测度之间的 KL 散度,得到一个推广普通 Fenchel-Young 散度的公式,由此定义 duo Fenchel-Young 散度,并给出生成元对的 majorization 条件保证其非负。
- 证明 duo Fenchel-Young 散度等价于 duo Bregman 散度。
- 应用:计算嵌套指数族密度间的 KL 散度、截断正态分布间的 KL 散度公式,并证明嵌套指数族间的斜 Bhattacharyya 距离等价于斜 duo Jensen 散度。
「研究」频道最新
- Tom Yeh 手绘交互图讲透 Self-Attention 与 Cross-Attention 区别 — ProfTomYeh · 2026-09-20
- Gary Marcus 质疑模型“痛觉”研究,作者点出 steering vector 可复现 — burny_tech · 2026-09-20
- NTU/CMU 等推出 VBVR-Pro:300 项任务构建视觉推理闭环 — 机器之心 · 2026-09-20
- 45 位专家检验 AI 审稿:评估 Nature 系论文评审的极限与机会 — windx0303 · 2026-09-20
- LeCun 参与的 Aspen 世界模型×物理工作坊开放报名,2027 年 2 月举办 — ylecun · 2026-09-20
- Claude 独立完成 RSA-896 因数分解,RSA 挑战数再破一个 — Singularitarian · 2026-09-20