Rényi 熵估算样本复杂度研究获紧确界限
abeirami · x · 2026-08-19
论文《Tight Sample Bounds for Renyi and Min-Entropy Estimation》研究了 Rényi 熵和最小熵估算的样本复杂度。研究证明了估算最小熵至常数加性精度的样本复杂度为 $\Theta(k\log k)$,比香农熵需要多 $\Theta(\log^2 k)$ 个样本,纠正了之前 $\Theta(k/\log k)$ 的错误结论。对于整数阶 $\alpha$ ($2 \le \alpha \le c0 \log k$),研究给出了匹配的上下界 $\Theta(\alpha k^{1-1/\alpha})$,并证明了因子 $\alpha$ 是不可避免的。
「研究」频道最新
- 浙江大学研究:看短视频时大脑控制网络会“休眠” — alex_verem · 2026-08-19
- 微软 Agent Lightning 用 6K 数据将 SWE-bench 提升至 56.4% — omarsar0 · 2026-08-19
- ReForce:引入力感知的机器人遥操作重定向方法 — chris_j_paxton · 2026-08-19
- GLM 路径误差低于 Grok,双模型机器人控制实测对比 — MaziyarPanahi · 2026-08-19
- ICLR 2021: Tilted ERM 增强鲁棒性演示动画 — abeirami · 2026-08-19
- IISc 开设生成式 AI 数学课程,深度解析模型原理 — dhruv2038 · 2026-08-19