摘要 / 核心结论

1. 三个模型代表了 2025–2026 时序基础模型的三条主流技术路线，且三者恰好走完了从"单变量"到"多变量"、从"离散 token"到"连续 patch"、从"自回归逐步解码"到"非自回归/高效解码"的演进主轴：

• TimesFM-3（Google）：首个原生多变量零样本模型，采用 2D 交替注意力 + 非自回归单步解码，精度登顶但权重不可商用。
• Chronos-2（Amazon）：从 Chronos 的"离散 token 自回归"彻底转向"连续 patch 嵌入 + RoPE + arcsinh 归一化"的 encoder-only 架构，单一架构统一单变量/多变量/协变量，Apache 2.0 可商用、生态下载量最大。
• Moirai 2.0（Salesforce）：以"Less Is More"为核心命题，用11.4M 参数的小模型逼近甚至反超 305M 大模型，通过消融实验证明量化损失 + 自回归多分位解码 + 数据清洗的组合拳优于盲目堆参。

2. 精度排序（GIFT-Eval 聚合）：TimesFM-3（MASE 0.667）> Chronos-2（0.698）> Moirai 2.0-small（0.728），但三者均为零样本且大幅优于 Seasonal Naive 基线（=1.000），且差异在特定领域会反转。

3. "开源可商用"与"精度最高"目前不可兼得：TimesFM-3 精度第一却用了 timesfm-non-commercial-license-v1.0 限制商用；Chronos-2 是 Apache 2.0 的工程默认选择；Moirai 2.0 为 CC BY-NC 4.0（仅研究）。这是选型的第一约束。

4. 科学上最值得注意的两个反直觉发现：Moirai 2.0 的"大模型反而变差"（参数规模-精度非单调），以及其在独立评测中暴露的不确定性校准过度自信（约 70% 覆盖率 vs 95% 目标），说明"点精度高 ≠ 概率预测可信"。

1. 背景：时序基础模型（TSFM）范式

时序基础模型的目标是：在大规模、多领域时序语料上预训练，使模型具备对从未见过的序列进行零样本（zero-shot）预测的能力，类比 NLP/CV 的 GPT/CLIP。其核心设计空间由四组正交的架构决策构成：

• Tokenization
   决定了连续时间序列能否进入 Transformer 词表空间。离散化会带来量化误差，但便于复用语言模型架构；连续 patch 嵌入更适合回归类任务。
• 序列建模范式
   会影响训练目标、推理方式和上下文利用方式。预测任务常用 decoder-only 或 encoder-decoder，重建任务常用 encoder-only。
• 多变量建模
   在电力、储能、电池等场景中尤其重要，因为电压、电流、功率、SoC 等变量之间存在物理耦合。
• 解码方式
   需要在生成质量和推理效率之间权衡。自回归适合需要逐步依赖的场景，非自回归适合低延迟批量预测。

三个模型正是在这四个轴上的不同取舍，构成了可相互对照的实验样本。

2. TimesFM-3（Google）：原生多变量 + 非自回归单步解码

2.1 算法原理

TimesFM-3 的核心命题是：把多变量预测从"事后拼接"变成"原生零样本任务"。此前的 TimesFM、TimesFM 2.0/2.5 均为严格单变量模型（每条序列独立预测），而 TimesFM-3 首次在预训练阶段就联合建模多个相关序列及其协变量。

其第一性设计逻辑是：真实业务预测（销售 + 天气 + 客流、促销 + 销量）往往存在跨序列因果关系，单变量模型无法利用这些信号，因此在精度上存在天花板。TimesFM-3 通过显式建模这种跨序列依赖来突破该天花板。

2.2 技术架构

• 骨干：decoder-only Transformer，约 330M 参数（TimesFM 2.5 为 200M）。
• Patching：连续时间点按 32 步一个 patch分组，并对每条序列做逐序列归一化以统一量纲。
• 2D token 网格：横轴为时间、纵轴为目标序列与协变量，形成一个二维 token 布局。
• 交替注意力（核心创新）：
• 因果时间注意力（水平）：同一序列内只看向过去的 token，严格维持预测边界、防止信息泄漏；
• 全变量注意力（垂直）：同一时间步上跨所有序列自由注意，学习跨序列相关性。
• 协变量语义分类：把输入分为三类——目标（target，需联合预测）、

• 非自回归解码：采用源自 TiRex（arXiv:2505.23719）的 

• 输出：每个目标、每个预测步输出点预测 + 9 个分位数（10%–90%），形成概率预测。

2.3 训练数据

预训练语料 超过 1 万亿时间点，来源包括 GIFT-Eval 预训练数据（剔除与 FEV-Bench 重叠部分）、Wikipedia 页面浏览量、Google Trends，以及合成/增广数据。

2.4 基准表现与许可

• 在 GIFT-Eval、FEV-Bench、TIME 三大公开榜上，点预测与概率预测平均模型排名均第一（领先 Chronos-2、Moirai 2.0、Toto-2.0、TimesFM-2.5），且在多变量模式下优势最大，单变量模式与同类持平或略优。
• 许可：代码 Apache 2.0，但 3.0 权重为非商用许可（timesfm-non-commercial-license-v1.0），商用只能等待 Google BigQuery 的 AI.FORECAST托管服务。

3. Chronos-2（Amazon）：从"离散 token 自回归"到"连续 patch 通用预测"

3.1 算法原理与家族演进

Chronos 家族的演进是理解 Chronos-2 的关键（论文题即为 From Univariate to Universal Forecasting）：

• Chronos
   走的是“时序即语言”的路线：先把连续值缩放、离散化成 token，再用自回归 decoder 生成未来轨迹。优点是概念统一、能复用语言模型范式；缺点是推理慢，需要多次采样才能得到概率分布。
• Chronos-Bolt
   改为 encoder-decoder，并用 patch 分块 + 直接多步分位数输出，避免了逐 token 自回归采样，因此速度提升显著，内存效率也更高。
• Chronos-2
   进一步升级为通用时序基础模型，采用 encoder-only 架构，支持多变量、历史协变量、未来已知协变量和分类协变量。 它通过分组注意力机制在组内序列间共享信息，计算复杂度随变量数近似线性增长，而不是平方增长。
• 从建模能力看，演进路径是：离散自回归 → 连续直接预测 → 通用多变量/协变量建模。
• 从落地选型看，低延迟单变量预测可优先考虑 Chronos-Bolt；需要多变量、协变量或更强零样本泛化时，Chronos-2 更合适。

Chronos-2 的算法核心是彻底放弃离散 tokenization：原版 Chronos 把数值量化到离散词表再自回归生成，虽然让"时序预测"看起来像"语言建模"，但引入了量化误差与自回归串行延迟。Chronos-2 改用连续 patch 嵌入 + RoPE 位置编码 + arcsinh（反双曲正弦）归一化，直接建模连续值。

3.2 技术架构

• 骨干：encoder-only（受 T5 encoder 启发），主模型 120M 参数，另有 28M tiny 变体。
• 连续 patch 嵌入：不再离散量化（注：vLLM 0.18 尚不支持该连续 patch 嵌入，词表大小显示为 vocab=2，反映其已脱离离散词表范式）。
• Group attention（分组注意力）：用于在相关序列与协变量之间做上下文学习，是支持多变量的关键机制。
• 非自回归多步分位预测：一次性输出未来多个时间步的分位数，而非逐 token 展开。
• 上下文 8192 / 预测 1024：相较 Chronos-Bolt（2048/64）与 Chronos（512/64）大幅提升，支持长序列。
• 单一架构统一三种任务：单变量、多变量、含协变量预测，无需切换模型。

3.3 训练数据与速度

训练数据为 Chronos Datasets 子集（剔除与 GIFT-Eval 测试重叠部分）+ GIFT-Eval Pretrain 子集 + 合成单/多变量数据。推理速度 >300 序列/秒（单 A10G），是三个模型中生态最成熟、下载量最大（约 2270 万次）的模型。

3.4 许可

Apache 2.0，权重可商用——这是其相对 TimesFM-3 的核心工程优势。

4. Moirai 2.0（Salesforce）："Less Is More"与量化损失的消融实证

4.1 算法原理：Less Is More

Moirai 2.0（When Less Is More for Time Series Forecasting, arXiv:2511.11698）提出一个反直觉命题：时序基础模型的精度并不随参数量单调上升。作者观察到，Moirai 2.0 的 305M 大版本在 GIFT-Eval 上反而输给 11.4M 小版本，于是把"数据质量 + 损失函数 + 解码方式"的工程改进置于"堆参数"之上。

4.2 技术架构

• 骨干：从 Moirai 1.0 的掩码 encoder 转为 decoder-only Transformer（更适合自回归生成、更易扩展）。
• 输入处理（单变量）：多变量数据被当作相互独立的单变量序列

• Patching：单一 patch 尺寸（Moirai 1.0 用多尺寸）；缺失值用"数值 + 二值存在指示符"拼接后经 SiLU 残差块处理。
• 损失函数（关键）：从 Moirai 1.0 的分布损失改为分位/pinball 损失，输出 9 个分位（0.1–0.9），直接对齐 CRPS 指标。
• 多 token 预测：每个 token 一次预测多个未来 patch（而非单 token），提升效率与稳定性。
• 随机掩码：预训练时对输入 patch 做 50% 随机掩码以增强推理稳健性。
• 解码：自回归多分位解码，采用 depth-2 展开/坍缩：9 个候选分位展开为 9×9=81，再采样坍缩回 9 分位。

4.3 训练配置与数据

• 训练配置：100K 步，batch 256，AdamW，lr 1e-3，wd 1e-1，10K 步 warmup + 余弦退火，bf16。
• 数据：共 36M 序列 / 约 295B 观测，含 GIFT-Eval Pretrain（非泄漏 3.25M 序列/230B）、Chronos-mixup（30M/63B）、KernelSynth 合成（1M/1.02B）、Salesforce 内部 CloudOps 遥测（2.15M/1.48B）。
• 数据清洗：z-score 异常过滤，剔除不可预测/低质量序列。

4.4 消融实验（本报告最具科学论证价值的部分）

论文给出逐步消融，揭示每个设计选择的边际贡献（GIFT-Eval MASE/CRPS，越低越好）：

• MASE 和 CRPS 都是越低越好。
   MASE 衡量点预测精度，CRPS 衡量概率分布预测质量。
• 从基线到 v0，仅把掩码编码器改为 decoder-only 并更换预训练语料，就带来小幅提升。
• v1 引入新语料后提升明显，说明数据规模和覆盖度对时序基础模型很关键。
• v2 把混合分布输出改为分位损失，v3 再加入自回归分位解码，这两步是增益最大的阶段。
• v4 加入随机掩码后指标反而回退，说明该改动对当前设置收益有限。
• v5 的多 token 预测和最终的残差块投影继续压低误差，最终版本达到 MASE 0.728、CRPS 0.516。
• 整体演进路径可以概括为：掩码编码器 → decoder-only → 分位数输出 → 自回归分位解码 → 多 token 预测 → 残差投影优化。

科学结论：单看"数据（v1）"与"分位损失（v2）"两项就带来了最大幅度的增益（MASE 0.929→0.744），而"随机掩码"甚至略有回退（0.736→0.772）。这说明：对时序基础模型而言，损失函数与数据质量的贡献远大于某些训练技巧，参数规模则几乎无关。

4.5 参数量与效率

• 三个尺寸：small 11.4M / base 87.1M / large 305M。
• 相较 Moirai-Large：MASE 提升 16%、CRPS 提升 13%、推理快 44%、参数量缩小 96%（11M vs 311M）。
• GIFT-Eval 排名：过滤后模型第 5 名（MASE）/ 第 6 名（CRPS），且小版本精度反而最高（large 0.743 劣于 small 0.728）。
• 许可：CC BY-NC 4.0（研究用途，非商用）。

5. 基准数据对比分析

5.1 GIFT-Eval（Salesforce 基准，97 个任务配置）聚合对比

• MASE 和 CRPS 都是越低越好。
   MASE 衡量点预测精度，CRPS 衡量概率分布预测质量。
• TimesFM-3 精度最高，但预训练权重不可直接用于商业或生产环境。
   它的代码仓库仍为 Apache-2.0，权重采用 timesfm-non-commercial-license-v1.0，仅限非商业、非生产使用。
• Chronos-2 是当前 Apache 2.0 许可下综合表现最强的模型。
   它原生支持单变量、多变量和协变量预测，并通过组注意力机制实现跨序列信息共享，内存复杂度约为 O(V)。
• TimesFM 2.5 是 Google 生态中可商用的版本。
   支持长上下文和连续分位数输出，适合已有 Google Cloud / BigQuery 环境的团队。
• Moirai 2.0-small 仅 11.4M 参数，推理最快、体积最小。
   适合资源受限场景或作为轻量级 baseline，但许可为非商用。

按场景推荐

说明：MASE=1.000 为 Seasonal Naive 基线；越低越好。TimesFM-3 官方博客未公布逐项数值（仅公布"排名第一"），表中具体数值来自第三方聚合榜单快照（与 Moirai 论文自报的 0.728/0.516 及 Chronos-2 的 0.698/0.485 交叉一致），故作为量级参考，结论方向可靠。

解读：

1. TimesFM-3 在 MASE 与 CRPS 两项上均领先 Chronos-2 约 4.4%/6.0%，领先 Moirai 2.0-small 约 8.4%/11.6%。
2. Chronos-2 以约 1/3 的参数量（120M vs 330M）取得接近 TimesFM-3 的精度，参数量-精度效率显著更高。
3. Moirai 2.0 以 11.4M（约为 TimesFM-3 的 1/29）达到 0.728，其"单位参数精度"极为突出，但绝对值落后。

5.2 领域反转：独立评测的证据

多个独立研究显示，通用榜排名在特定领域会反转，这是科学论证中必须强调的"外部有效性"问题：

• 登革热疫情预测
  （BMC 传染病情预测研究）：高变异爆发场景下 Chronos-2 Multivariate 胜出；地方性流行场景下 TimesFM 2.5 与 Moirai 更准。
• ERCOT 电力负荷（TSFM Energy Benchmark）：Moirai-2 以 MASE 0.307 最优（Chronos-2 为 0.334、Chronos-Bolt 0.315），且推理最快（0.025s），但不确定性校准过度自信（约 70% 覆盖率 vs 95% 目标）。
• 欧洲批发电价：Chronos-2 与 TimesFM 接近持平。

5.3 关键维度横向对比总表

• TimesFM-3 当前精度最高，但预训练权重不可商用。
   它采用 decoder-only 架构，通过交替的时间注意力和跨序列注意力实现原生多变量建模，并用非自回归单步生成降低延迟。
• Chronos-2 是 Apache 2.0 许可下综合能力最强的选择。
   它用 encoder-only + 组注意力统一处理单变量、多变量和协变量任务，在 fev-bench、GIFT-Eval 和 Chronos Benchmark II 上均处于前列。
• Moirai 2.0 走的是“小模型 + 强训练目标”路线。
   它用 decoder-only、分位损失和多 token 预测，把模型体积和推理成本压得很低，但不支持多变量和协变量。
• 架构路线已经分化：
   TimesFM-3 和 Moirai 2.0 都走 decoder-only，但前者强调多变量与非自回归效率，后者强调自回归分位解码；Chronos-2 则坚持 encoder-only，更适合把历史上下文、协变量和多变量放进同一组注意力中。
• 选型建议：
   生产环境优先看 Chronos-2；学术评测可同时跑 Chronos-2 和 Moirai 2.0；追求最高精度且仅限非生产研究可用 TimesFM-3；边缘或低资源场景优先看 Moirai 2.0-small。

6. 应用场景适配分析

6.1 TimesFM-3 —— 面向"多变量耦合 + 已知未来事件"的高精度场景

• 零售/电商需求预测：销量与促销、节假日、天气等多变量耦合，促销日程是典型的 past-future 协变量，正是 TimesFM-3 的原生优势场景。
• 多变量业务预测：销售、客流、客服量联合预测。
• 约束：权重不可商用，只能通过 Google BigQuery AI.FORECAST

6.2 Chronos-2 —— 面向"可商用 + 全形态"的工程默认选择

• 企业级预测平台：Apache 2.0 可商用 + 单架构覆盖单变量/多变量/协变量，是最省心的工程落地选择。
• 长序列场景：上下文 8192 / 预测 1024，适合日粒度长期预测、精细粒度高频序列。
• 零售/需求、供应链、运维监控：Chronos 家族在短上下文零售需求序列上历来表现强。
• 约束：连续 patch 嵌入在部分推理框架（vLLM）尚未完全支持，需关注推理栈兼容性。

6.3 Moirai 2.0 —— 面向"资源受限 + 大规模批量 + 单变量"场景

• 海量单变量批量预测：11.4M 小模型 + 最快推理速度，适合 CPU 边缘/大规模批量打分，如门店级单品销量、IoT 传感器、运维 KPI。
• 研究/教学与定制微调：CC BY-NC 4.0 允许研究使用；小模型便于二次微调与部署。
• 约束：不支持多变量/协变量；独立评测提示

7. 科学论证：三个值得注意的技术判断

1. 离散 token → 连续 patch 是 2025 年的确定性趋势。Chronos 从离散量化走到连续嵌入，TimesFM 系列始终用连续 patch，Moirai 用连续 patch + 残差投影。离散化引入的量化误差在时序精度竞争中已被证明是劣势。

2. 非自回归/高效解码取代自回归逐步生成。TimesFM-3 的单步 Contiguous Patch Masking、Chronos-2 的直接分位输出，都致力于消除自回归的延迟与误差累积；Moirai 2.0 虽保留自回归但用多 token 预测 + KV-cache 加速（1K 预测约 4×，10K 约 17×）补偿。

3. "更大 ≠ 更好"与"精度 ≠ 可靠"。Moirai 2.0 的消融证明数据质量与损失函数是主因；而 Moirai 2.0 在独立评测中的过度自信（70% vs 95% 覆盖率）则警示：MASE/CRPS 排名不能替代概率校准质量。真正的科学选型应同时看"点精度、概率校准、外推领域表现、许可、推理成本"五维。

8. 选型建议（速查）

关于“概率校准”的补充说明

• TimesFM-3、Chronos-2、Moirai 2.0 都支持分位数输出，但分位数预测并不自动保证概率校准。
• ICLR 2026 一项针对 5 个时序基础模型的研究发现，TSFM 整体比 ARIMA、N-BEATS 更校准，且短程预测中未出现系统性过度自信；但预测头类型和长程自回归策略会显著影响校准质量。
• TimesFM 2.5 的分位数头相比早期版本有所改进，但在用于风险决策前，仍应在具体业务分布上验证经验覆盖率。
• 若用于储能调度、电力交易、库存备货等需要置信区间的场景，建议额外做覆盖率检验、分位数重校准或保形校准。

9. 参考文献

模型论文/官方

• TimesFM-3：Google Research 博客 TimesFM-3: A zero-shot foundation model for multivariate forecasting research.google；代码 github.com/google-research/timesfm；权重 huggingface.co/google/timesfm-3.0-pytorch
• Chronos-2：Chronos-2: From Univariate to Universal Forecasting, arXiv:2510.15821；权重 huggingface.co/amazon/chronos-2
• Moirai 2.0：Moirai 2.0: When Less Is More for Time Series Forecasting, arXiv:2511.11698 ar5iv；Salesforce 博客 salesforce.com/blog/moirai-2-0
• TiRex（Contiguous Patch Masking 来源）：arXiv:2505.23719

基准与评测

• GIFT-Eval（Salesforce）、FEV-Bench（Amazon/AutoGluon）、TIME Benchmark、Chronos Benchmark II、Monash Repository
• TSFM Energy Benchmark（ERCOT 电力负荷，独立评测）github.com/PhysicsInforMe/tsfm-energy-benchmark
• 第三方技术解读：tsfm.ai 的 TimesFM-3 与 Chronos v2 分析 tsfm.ai