OpenRouter 新路由算法见效:GLM 5.3 Flash 首字延迟降 40%、单价降 17%
AccBalanced · x · 2026-11-12
OpenRouter 宣布其新路由算法上线一个月后的效果:GLM 5.3 Flash 用户的 TTFT 下降 40%,吞吐量提升 10%,每百万 token 价格下降 17%。
OpenRouter 联合创始人 Alex Atallah 解释称,该算法会把更多流量奖励给推理服务质量高的供应商,与很多人直觉相反,路由实际上提高了可靠性而非降低。帖子附带了成本与速度随时间改善的可视化动画。
「Infra」频道最新
- 数据中心的账:支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- 预算级独显服务器租赁指南:OVH、FiberState 及询价技巧 — realmrfakename · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影,逗乐 AI 研究员 — giffmana · 2026-11-12
- llama-modchip:64GB 内存纯 CPU 跑 284B 模型,零 GPU — pmttyji · 2026-11-12
- Agent Substrate 计算器:预测不同负载下 agent 会话恢复速度 — pjausovec · 2026-11-12
- Dell 扩展 AI Data Platform:AI Agent 的瓶颈是数据上下文而非模型 — DavidLinthicum · 2026-11-12