Frank Nielsen 推广 α-散度:用一对均值广义化 Shannon 熵与 KL 散度
FrnkNlsn · x · 2026-10-27
Frank Nielsen 介绍其 arXiv 论文(2001.09660,已发表于 Algorithms 2022):用一对严格可比的拟算术均值(quasi-arithmetic means)来推广 α-散度族。
- 条件:f、g 为两个光滑严格递增函数,且 f∘g⁻¹ 严格凸,可定义 (f,g)-熵与对应的 (f,g)-KL 散度(交叉熵减熵)。
- 极限情形 α→1 得到 KL 散度的推广,α→0 得到反向 KL 的推广;该子族属于 Csisár 的 f-散度,并可经单调嵌入改写为共形 Bregman 散度。
- 取 f(x)=x、g(x)=log x 即恢复经典 Shannon 熵。
「研究」频道最新
- OverSeer 用固定辅助摄像头解决多智能体世界模型一致性难题 — sguada · 2026-10-27
- Nvidia 研究员自发布「简化证明」宣称 ETH 为假,附可复现算法 — fortnow · 2026-10-27
- ENPC 视觉学者 Gül Varol 开招 2027 年视频与语言方向博士生 — gulvarol · 2026-10-27
- 研究称非英语用户承担“分词器税”:200 种语言成本差最高 17 倍 — alexvoica · 2026-10-27
- TianzheC 发布新研究:架构设计、理论与消融实验全开源 — YiMaTweets · 2026-10-27
- 完美校准≠预测准确:掷硬币也能做到完美校准 — gleech · 2026-10-27