Fireworks 高管：模型路由器本身应是训练出来的模型
sophiamyang · x · 2026-11-04
Fireworks AI 产品工程 VP Chris Harris 在活动上详解其模型路由产品 Nexus 的设计理念。
- 「模型团队」胜过超级明星模型：每个模型各有性格与长处，未来多元化模型组合比单一顶级模型更重要。
- Nexus 是一个路由器，且路由器本身是训练出来的模型，按三个维度分配任务：拟合度（不只是看 prompt 本身）、成本（保持缓存命中、提前预测 token 数/推理 effort/工具调用次数）、个性化（学习提问者身份，同一 prompt 不同人会路由到不同模型）。
- Fireworks 的护城河不是自研模型，而是做模型之上的编排层。
「Infra」频道最新
- Agent37 推出月租 4.76 美元沙盒，价格仅为 Vercel 的 2% — rohanpaul_ai · 2026-11-04
- TensorFold 1.2.2 发布：GB10 prefill 提速近 40% — HankYeomans · 2026-11-04
- mlx-serve 新 PR:两台 Mac 经雷电 5 跑张量并行,DeepSeek 解码提速 57% — HankYeomans · 2026-11-04
- PyTorch Day Japan 12月东京举行，含 ExecuTorch 移植边缘加速器实战议题 — PyTorch · 2026-11-04
- 2B 决策模型跑上树莓派：单次图像决策约 9 秒 — JosephJacks_ · 2026-11-04
- 推理引擎大爆炸：llama.cpp 老用户追不动新框架了 — Kahvana · 2026-11-04