Mistral 发布 Timestral 时间序列基础模型,最小仅 5M 参数
jacek2023 · reddit · 2026-10-15
Mistral 推出 Timestral 时间序列基础模型家族,主打零样本预测,提供 5M、28M、123M、209M 四种参数规模,并开源代码与基准复现脚本。
- 架构:基于 patch 的 Transformer,含时间注意力与变量注意力,24 层,嵌入维度 768;每 32 个时间步为一个 patch,缺失值以指示位一并嵌入。
- 能力:支持单变量与多变量预测、仅历史协变量与已知未来协变量(数值或类别,类别做目标编码),缺失值用 NaN 标记。
- 上下文与预测:最长 32,768 个历史时间步(1,024 个 patch),单次前向可预测最多 1,024 步(32 个 patch);更长跨度按块滚动预测,将每块中位数预测追加进上下文。
- 输出:21 个分位数(0.01 至 0.99),支持概率预测。
- 推理:PyTorch,CPU 或 GPU 均可运行。
所属事件:Mistral 开源 Timestral 时序基础模型,最大 209M 参数(6 条相关)→
「模型」频道最新
- 斯坦福 CS336 讲义拆解 MoE 参数与计算的两本账 — stanfordnlp · 2026-10-16
- Chandra 2.5 用新训练法将文字混淆减少 7 倍,低于 Gemini 与 Claude — VikParuchuri · 2026-10-16
- Datalab 实测:Gemini Flash 3.8 与 Claude Opus 5.5 同样输出错文字系统 — VikParuchuri · 2026-10-16
- VLM 为何把英文页面的 vain 认成汉字「罪」?OCR 团队发文调查 — VikParuchuri · 2026-10-16
- Grok 二次滚动后再爆「人死后一切归无」发言,玩梗者反被打脸 — generativist · 2026-10-16
- NVIDIA 开放权重模型并列医疗决策基准第一,同 pplx-decider — MaziyarPanahi · 2026-10-16