Vercel AI Gateway 推出 priority 和 flex 两档服务
cramforce · x · 2026-07-22
这条帖子在讨论 Vercel AI Gateway 的新服务层级：如果你的 AI 工作负载是“后台跑、睡觉时也在干活”的软件工厂，就可以改用更便宜的 token，接受稍慢一点的执行速度。
引用里提到 Vercel 现在提供两个层级：
- priority：追求最快 token 吞吐
- flex：面向更敏感成本、但对延迟更宽容的请求
这类信息的重点是：AI 推理服务开始更明确地把 成本/延迟 做成可选档位，方便按任务类型做取舍。
「Infra」频道最新
- 全同态加密 GPT-2 速通赛开跑:现纪录 3.031 秒/token — tensorqt · 2026-10-27
- 开源编译器 Latch 从 PyTorch 生成训练 megakernel，H100 上提速 2.75 倍 — sguada · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- NVIDIA 称 HGX Rubin NVL8 每兆瓦 token 吞吐为 B200 的 10 倍 — thursdai_pod · 2026-10-27
- Together 推出并行 LoRA 实验：多个实验共享同一批 GPU，免重复配置 — togethercompute · 2026-10-27
- 要么人力商品化，要么 GPU 商品化：算力经济二选一之辩 — _AustinCalvert_ · 2026-10-27