Cadence: Error-Bounded Lossy Compression of Demand Time Series with a Time-Series Foundation Model
Roberto Tacconelli
cs.IT, cs.DB, cs.LG
2026-09-05
TimesFM-3做无损压缩仅增益0.03%,几乎无用;但误差有界有损压缩在电网、客流数据上省21.4%。
时间序列基础模型(TimesFM、Chronos、Moirai)号称能zero-shot预测任意数值序列,预测准了自然会让人联想:预测越准,压缩是不是也该越省?这篇论文直接测试这个直觉,结论是:在无损压缩上基本不成立,在有损压缩上只在一种特定数据类型上成立。根源是信息论层面的结构性限制,不是工程实现的缺陷。
论文先给出一个恒等式:在残差模型给定的情况下,编码长度约等于log2(残差尺度)加一个常数,所以预测器带来的比特节省是准确率提升比值的对数,而不是线性关系:Δbits = log2(MAEold / MAEnew)。这意味着预测准确率要提升1000倍以上,才能把一个20比特/值的文件压缩到一半。团队随后设计Cadence,一个误差有界的有损压缩器,保证每个样本的重建误差不超过阈值τ。核心结构是闭环量化:预测器只能看到自己之前重建出的值(而非原始值),这样解码端才能精确复现同一个预测。团队还实现了一个带上下文建模的自适应算术编码器,并且坚持一条方法论:每一种预测器(神经网络的、经典的)都必须经过同一个熵编码器,否则比较毫无意义。团队用实验证明了这一点:早期用xz/zstd这种通用压缩后端做熵编码,会人为制造出误差容限越大增益反而越小的假象趋势,换成自建的算术编码器后这个趋势直接反转。
先看无损编码。在12个真实序列上,TimesFM-3相对最优经典预测器(6种候选取最优)的中位数增益只有+0.03%,基本是噪声水平。一个具体例子:在维基百科页面访问量数据上,TimesFM-3的MAE是113,608,经典32抽头线性预测器是171,507,预测准确率提升1.51倍,但换算成比特节省只有0.6比特,占20.28比特预算的2.9%。i.i.d.噪声这一行是校验行:真实熵是12.000比特,所有预测器都读到12.003,增益精确为0,证明整个测量框架没有系统性偏差。
有损压缩的结果完全不同,但只在一类数据上。团队在两份晚于任何可能训练截止日期的语料上测试:2026年美国49个电网调度机构的小时用电数据,和2026年纽约地铁50个最繁忙站点的小时客流数据。Cadence相对最优经典预测器的中位数增益是电网数据+13.3%(147/147全胜)、地铁客流+28.3%(150/150全胜),合并统计是297组序列-容限配对里+21.4%中位数增益,297组全部获胜。相比之下,混合运维遥测数据只有+6.4%,合成信号只有+2.9%,团队专门跑了SDRBench科学模拟数据集尝试证伪这个人类需求聚合数据假说,结果如预期落空:中位数-0.8%,27组配对里0/27获胜,在光滑的飓风模拟场上更是恶化到-41%。
| 语料 | 中位数增益 | 获胜比例 |
| 电网用电(2026) | +13.3% | 147/147 |
| 地铁客流(2026) | +28.3% | 150/150 |
| 混合运维遥测 | +6.4% | 21/24 |
| 合成信号 | +2.9% | 7/12 |
| SDRBench科学模拟 | -0.8% | 0/27 |
团队还测出两个容易被忽视的工程坑。第一,模型在不同batch size下的预测结果不是bit级完全一致的(desync概率约8×10⁻⁶/样本,累积到百万样本几乎必然出错),因此batch size必须写进容器格式,不能事后修复。第二,神经压缩器需要先付出一段上下文启动成本(经典预测器不需要这笔开销),这导致端到端增益远低于只看压缩主体部分的数字:六个月小时数据的端到端增益只有+6.8%,要到渐近状态才能到+15.1%。和实际生产环境用的降采样相比,Cadence在同等文件大小下的最坏情况误差保证要紧28到56倍,团队认为这才是最站得住脚的实用场景,而不是跟SZ3这类科学压缩器拼分数。
这篇论文对上大模型就能提升压缩率这类直觉是一次系统性泼冷水,而且给出了可以直接套用的判据:log2定律说明只有当经典预测器已经明显跑不动、且任务是误差有界的有损压缩(残差落在容限内时代价趋近于零,这是个不连续点,能绕开log2定律)时,基础模型才有意义。这类场景在实践里相当具体,聚合的人类需求计数数据(电网、客流),而不是数值数据的普遍性质。对做时间序列数据库或长期存储系统的团队,更现实的对比对象是行业默认的降采样方案,不是科学压缩器;降采样没有误差上界保证,Cadence可以直接替换。
团队自己列了完整的失败清单:跨序列条件生成(把相关序列作为协变量喂给模型)没用,反而让码长变差;用基础模型做插值重建光滑网格同样失败,最差跌210%;逐段混合切换预测器净增益为0,因为TimesFM-3已经全面碾压经典因果预测器,没什么可混合的。吞吐量方面,Cadence在fp32下只有224 values/s,比经典编解码器慢几个数量级,只适合归档场景。模型权重1.3GB且是非商业许可,批量场景下需要摊薄到约54GB负载才划算。可移植性也是真实存在的问题:同一模型在GPU和CPU上跑出的预测不是bit级一致的,五年期的小时级归档失败概率约26%。支持这个正面结论的只有两份语料,论文明确说没有证据能推广到物理传感器、光滑模拟场或类随机游走的金融序列。