OceanMoE:条件稀疏 MoE 框架提升长期多元海洋预报精度
burny_tech · x · 2026-09-21
arXiv 新论文提出 OceanMoE,一个面向长期多元海洋预报的结构化条件稀疏 Mixture-of-Experts 框架。
核心思路是在统一模型中兼顾跨变量共享与按目标特化:
- 融合跨变量信息构建目标特定的局部表征,并在每个空间位置做内容条件化的稀疏路由,激活专家数量随 router 置信度自适应调整;
- 解码器路由引入由球谐空间基参数化的地理偏置;
- 共享残差与季节通路提供跨变量及月份依赖的共同上下文。
在长期自回归 ORAS5 预报实验中,OceanMoE 在两种评测设置下均降低了聚合预报误差,几何平均归一化 RMSE 低于对应基线。
「研究」频道最新
- AI2 开源 ToyBlocks:可控桌面仿真平台助力机器人学习实验 — allen_ai · 2026-11-07
- LoRA 训练动态讨论:alpha 不应随 rank 缩放 — thebasepoint · 2026-11-07
- LoRA 各 rank 起步同步移动,rank 越大等效学习率越高 — thebasepoint · 2026-11-07
- 推翻先前结论:调对学习率后全微调也会发生「潜意识学习」 — thebasepoint · 2026-11-07
- Lean 软件验证大会登陆斯坦福,新增 AI 安全与形式化验证圆桌 — ChrSzegedy · 2026-11-07
- 基础模型 vs LightGBM 实测:电价预测谁能赢 — nkafr · 2026-11-07