南大 RouteFM：预训练一次到处路由，LLM 路由迈向基础模型范式
nanjinguniv · hf · 2026-10-02
南京大学 LAMDA 团队提出 RouteFM，把 LLM 路由从「针对特定查询负载和候选池反复局部拟合」转向基础模型范式：预训练一次可复用的路由能力，跨任务、候选模型和部署条件泛化。
核心设计：
- 通过行为上下文刻画匿名候选模型并推断其在特定目标下的能力，而非把路由决策绑定到固定模型身份或单一环境；
- 在异构路由环境上做情景式（episodic）预训练，得到的能力可被冻结的路由器复用，仅靠上下文即可适配新环境；
- 已开源：github.com/LAMDA-Model-Reuse/RouteFM。
实验显示跨领域、模态、候选池和上下文预算的迁移能力，在行为证据有限时收益最大：在预训练排除的 MMR-Bench 上，每个候选仅 8 条观测就比最强基线高出 2.23 个质量点。
「Infra」频道最新
- 摩根士丹利称 Meta 不会为新购芯片扩容 Muse — AccBalanced · 2026-10-02
- Cerebras 高管集体抛股,股价单日暴跌 18 美元且无官方解释 — firstadopter · 2026-10-02
- 数据中心瓶颈不在 GPU:变压器交货周期长达 115 周 — AccBalanced · 2026-10-02
- MLPerf 引入 DLRMv4：HSTU 序列建模+560GB 嵌入的生产级推荐基准 — TheKanter · 2026-10-02
- 一周三连发:Cerebras 系团队详解分离式推理原理系列开更 — AccBalanced · 2026-10-02
- 李飞飞现身 AMD 阵营,Centre 演讲由 Dylan 顶替 — AccBalanced · 2026-10-02