Dynamo 按未完成读工作量给 GPU 打分
toddhooper · x · 2026-07-27
路由公式第一项算的是“欠下的读工作量”
这部分解释 Dynamo 公式里的第一项：不是你的请求本身有多大，而是目标 GPU 还欠多少读取工作。
- 包括它已经接下但还没完成的请求。
- 再加上你这个请求会带来的新增工作。
所以系统问的不是“你有多大”，而是“你将站到多长的队伍后面”。这也是它更像负载均衡器，而不是简单查表路由器的原因。
所属事件:Dynamo GPU 调度器按未完成读工作量打分(2 条相关)→
「Infra」频道最新
- Netlify 说 60% 新用户首次部署都走 Drop — thisiskp_ · 2026-07-28
- AI 数据中心扩张正在重塑电网与备用电力激励 — kleffew94 · 2026-07-28
- 800V DC 数据中心仍离不开备用电力，MS 笔记称 — BenBajarin · 2026-07-28
- Gary Marcus 称投资者正在看穿 Nvidia 的数据中心兜底策略 — GaryMarcus · 2026-07-28
- Kimi K3 已可在 Fireworks 上推理与训练 — omarsar0 · 2026-07-28
- YC 为 AI 创业者扩容算力：发 $25k credits 还买 GPU 集群 — ycombinator · 2026-07-28