Minimax Quantile Bounds via Information Measures
Amedeo Roberto Esposito
cs.IT, math.ST
2026-08-21
用损失适配的Neyman-Pearson元逆，把minimax分位数下界统一到f-信息、Sibson I_α、Maximal Leakage和Amemiya范数。高斯加权SBM在SNR=1给出有限样本强逆；近似Hamming下Leakage指数为0，有限阶I_α给出0.0439。
估计未知参数时，大家习惯看期望损失。Ma、Verchand 和 Samworth 把目标换成 minimax 分位数：给定失败概率 δ，误差半径在最坏参数下还能小到哪。同一期望风险下，大误差的概率可以差很多，分位数把这条尾巴留下来。
分位数版的 Fano 和 Le Cam 已经有了。精确识别、Hamming 邻域、连续低秩估计，成功事件的体积完全不同；似然比有的有界，有的只有多项式矩，有的是 Poisson 那种超指数尾巴。用错信息测度，下界会空掉，或弱一个数量级。这篇把这些 converse 收成同一条二元检验界的放松，并在四个模型里说明该换哪把尺子。
把「估得够准」写成事件：损失小于半径 ρ。引入辅助先验 PW，观测按参数生成。在任何乘积参考律 PW QX 下，这个事件的概率不超过 small-ball 函数 LW(ρ)，也就是半径 ρ 的损失球能盖住的最大先验质量。Neyman–Pearson 引理把这条几何约束翻成真实联合分布下的成功概率上界，再对辅助输出分布 QX 取最优，得到 Theorem 3.1。半径上反演，就是每个置信水平的 minimax 分位下界。
几何和可区分性被拆开了。LW(ρ) 只看先验和损失，packing 越稀、分辨率越粗，这个数越大。检验函数只看观测能把真实联合和乘积参考拉开多少。
同一条界可以按不同方式放松：
Fano 和 Le Cam 在这张图里是特化，不是并列的新工具。
对称有限 packing 上，若均匀先验的 MAP 是 equaliser（每个参数上成功概率相同），minimax 精确恢复成功概率恰好等于 exp{L(W→X)}/M。这里 Maximal Leakage 和 Neyman–Pearson 界、真实风险三者相等。
高斯加权随机块模型：n=2m 个点、两社区等大，边权为同方差高斯，组内均值更高。信号噪声比 SNRn = n(μ{1,n}−μ{2,n})²/(8τ² log n)，已知一阶精确恢复阈值在 SNR=1。Theorem 4.2 把有限样本 minimax 风险 Rn 夹在两个高斯极值概率之间，保留网络规模和信号强度。Corollary 4.3 是强逆：SNRn→γ≠1 时，γ<1 则 Rn→1，γ>1 则 Rn→0。
低秩矩阵去噪、噪声均匀分布在 Frobenius 球上时，任意两个不同信号的噪声球都有正体积的不交部分，pairwise KL 和 Rényi 散度是无穷，经典 packing-Fano 空掉。Maximal Leakage 化成 Steiner 平行体体积，R^k 的首项与 small-ball 对消，下界非退化。有限样本分位速率（至多常数因子）是 σ² min{(sr + log(1/δ))/D, 1}，其中 sr=r(d1+d2−r) 是秩-r 模型维数，D=d1 d2。维数标度本身不新，新的是这个噪声模型和 δ 的显式依赖。
近似 Hamming 恢复换尺子。异构二元信道里成功集是半径 r 的 Hamming 球。Example 4.9 取混合 ν=½δ{0.05}+½δ{0.25}、ρ=0.05：Maximal Leakage 指数为 0，优化有限阶 Sibson 给出 Jν≃0.0439，真指数 Iν≃0.0539。成功概率以 exp{−(0.0439+o(1))d} 衰减，Leakage 特化是平凡上界 1。
单坐标 Poisson 定位：M 条 Poisson(λ) 流里有一条被加了 1。Bennett 型 Young 函数经 Amemiya 范数收回成功概率尺度 log M/(M log log M)。经典 Fano 只证明成功趋于 0，尺度是 1/log M，弱一个 M log log M/(log M)² 因子。固定幂次给出 M^{−1+1/p}，普通指数 Young 函数给出 (log M)/M，都缺 1/log log M。
| 设置 | 合适的测度 | 相对基线的结果 |
| 对称精确恢复 | Maximal Leakage | 与 NP 界、minimax 风险相等 |
| 低秩+球噪声 | Maximal Leakage | Fano 空；速率 σ² min{(sr+log(1/δ))/D,1} |
| 近似 Hamming | 有限阶 Iα | 指数 0.0439，Leakage 指数 0 |
| Poisson 定位 | Bennett–Amemiya | log M/(M log log M)，Fano 为 1/log M |
做下界时，Fano 和 Le Cam 经常被当成默认工具。这篇把选用标准说死：成功事件的体积（分辨率）和似然比尾巴共同决定该用哪条放松。精确识别看密度的 ess sup；允许邻域时，有限阶 Iα 能在球体积和矩之间做权衡；尾巴不是多项式时，固定阶矩会丢掉正确尺度。社区检测和低秩去噪给出可计算的有限样本分位界，不再只报一阶阈值。
这是 converse 工具箱，没有新估计器，也没有仿真。对训模型的人几乎没有直接配方。对写统计下界、社区检测阈值、高概率矩阵估计的人，选择信息测度不再是口味问题。
作者列了开放问题：Neyman–Pearson 元逆何时达到、如何系统选择 Sibson 阶或 Young 函数、如何扩到交互、序贯和带约束的决策。Maximal Leakage 的等式依赖对称 equaliser，不是任意恢复问题都精确。低秩例子的噪声是均匀 Frobenius 球，和常见独立高斯矩阵噪声不是同一模型。Hamming 分离用的是一个两点混合分布，不是从真实网络里长出来的。Poisson 定位里 Amemiya 相对 Leakage 是计算便利：Leakage 在此同样精确，Young 函数的作用是用一条固定尾巴把 envelope 算到正确阶。