CMU 团队提出 Epiplexity：重新定义计算受限下的数据信息价值

joecole · x · 2026-08-08

CMU 等机构的研究者发布了新论文《From Entropy to Epiplexity》，针对香农信息论和柯尔莫哥洛夫复杂性在评估机器学习数据价值时的局限性提出了新见解。

论文指出了现有理论中的三个悖论：确定性转换无法增加信息、信息与数据顺序无关、似然建模仅是分布匹配。为解决这些矛盾，作者提出了 Epiplexity 这一新概念，用于量化“计算能力受限的观察者”能从数据中提取的有效信息。该指标能够捕捉数据的结构性内容，同时排除伪随机数等不可预测的无用时间熵。