ORBIT 训练范式：提升时序基础模型零样本预测能力
chaumian · x · 2026-08-16
论文提出 ORBIT (Omni-Range Bootstrap Incremental Training) 训练范式，旨在解决时间序列基础模型在大规模异构语料库上的预训练分布控制问题。
核心贡献：
- Bootstrap Multi-Level Sampling：通过控制数据集曝光，对记录、目标变量、上下文窗口和预测范围进行采样。
- Omni-Range Incremental Training：在单一训练阶段内变化上下文长度和预测范围。
- Falcon-2.0 模型：基于 ORBIT 训练的单变量 Encoder-only Transformer，包含缺失感知的三通道 patch tokenization 和并行 patch 预测。
- Rank-Guided Cross-Depth Alignment：利用后层表征作为浅层层的 stop-gradient 教师，无需额外推理成本。
在 GIFT-Eval 和 fev-bench 上的评估表明，该模型在多个领域和频率上展现出强大的零样本预测性能。
「研究」频道最新
- 港中文VideoCoCo：代码当思维链，文生视频懂物理 — 机器之心 · 2026-08-16
- 开源代理NullOrigin可实时去除LLM输出中的KGW水印 — theawkwardbong · 2026-08-16
- AI文本水印原理与规避方法详解：Anthropic等公司已采用 — SpiritRealistic8174 · 2026-08-16
- 病毒AI引发生物安全激辩：制造大流行易，防御需数月 — anshulkundaje · 2026-08-16
- Hamilton-Zero：求解量子基态的神经网络基础模型 — burny_tech · 2026-08-16
- Spatial Memory Agent：无参数更新的空间智能框架 — burny_tech · 2026-08-16