Bittensor 推理网络实测:自建多供应商路由,Engy 稳定性夺冠
markjeffrey · x · 2026-08-12
一位开发者自建了类似 OpenRouter 的路由层,用于接入 Bittensor 的多个推理子网,并进行了长达一个月的每日自动化质量检测(涵盖模型可用性、成功率和延迟)。
核心测试结果:
- Engy (SN53):综合表现最佳,所有测试模型成功率达 100%,平均延迟在 0.9s 到 5.5s 之间,且表现极其稳定,最适合生产环境。
- Chutes:在特定模型(如 Qwen3.5-397B)上表现优异,但不同模型间性能差异显著。
- GM:模型覆盖面最广,但整体延迟相对较高。
结论:没有任何单一供应商能在所有模型上全面领先。通过部署多供应商路由层,系统可以根据具体需求自动选择当前最优的推理选项,从而兼顾稳定性、速度和模型广度。
「编程与Agent」频道最新
- Nature 论文:模型越强,多智能体协作的收益越小 — SRSchmidgall · 2026-08-12
- 开源强化学习量化交易框架 TensorTrade — tom_doerr · 2026-08-12
- Browser-Use 推出 Hermes 代理:结合云浏览器突破反爬限制 — alexcovo_eth · 2026-08-12
- 苹果 Xcode 27 beta 5 更新 Foundation Models 接口 — rudrank · 2026-08-12
- 英伟达发布 30B MoE 模型及智能体路由系统 — sudoraohacker · 2026-08-12
- 沙箱成为新无服务器原语:AI Agent 改变了底层架构 — s4chinraja · 2026-08-12