Frank Nielsen:马氏距离是唯一的对称 Bregman 散度,可导出四种对偶形式
FrnkNlsn · x · 2026-11-09
Frank Nielsen 分享了一个机器学习理论观察:平方 Mahalanobis 距离在 Bregman 散度家族中是唯一的对称 Bregman 散度。
- 依据是其与 arXiv 论文《Bregman Voronoi Diagrams》(0709.2196,Nielsen、Boissonnat、Nock 合著)中的框架:Bregman 散度涵盖欧氏距离平方及基于熵函数的各类散度,可用来构建统计参数空间中的信息论 Voronoi 图。
- 利用 Bregman 散度参数化的对偶性(Legendre-Fenchel 变换),对高斯分布 F(θ)=½θᵀΣ⁻¹θ 可导出四种对偶的 Mahalanobis 距离,对应自然参数 η=Σ⁻¹θ 与均值参数 θ 之间的互换。
- 结论式给出 ΔΣ(μ₁,μ₂)=√((μ₂−μ₁)ᵀΣ⁻¹(μ₂−μ₁)),并引用了 1808.02771 等相关工作。
「研究」频道最新
- s³论文:多智能体自组织协作,规模翻倍协调解题超基线25倍 — omarsar0 · 2026-11-09
- 临床AI筛查自身免疫病随机试验:确诊时间从138天缩至43天 — zakkohane · 2026-11-09
- 「奇点周报」:Claude 3 天实验缩到 90 分钟,DOJ 组建超智能工作组 — rand_longevity · 2026-11-09
- Weightless 项目:小向量激活转向实现免改权重的模型去拒答 — EAccelerate_42 · 2026-11-09
- 谷歌 AI 团队自动发现量子程序,量子算术成本降 290 倍 — dair_ai · 2026-11-09
- 综述发现:连续语言模型近一年进展转向少步生成 — LucaAmb · 2026-11-09