GMI Router 推出 KV 缓存感知模型路由
anthara_ai · x · 2026-08-28
GMI Cloud 发布了 GMI Router，一种基于 KV 缓存感知的模型路由系统。
- 性能：路由时间小于 200ms，无需额外的 judge 模型介入。
- 成本与质量：相比全量运行 GPT-5.5，每任务成本降低 28%，且质量更高。
- 可用性：目前提供限时免费使用。
「Infra」频道最新
- GMI Router 实测：三类任务自动分派三家模型，单次省 0.02-0.03 美元 — Shruti_0810 · 2026-08-28
- MiniMax-H3 跑 8×H200：无损加速 1.95 倍，最高 6.24 倍 — ying11231 · 2026-08-28
- Architect Labs 称 AI 两周设计出芯片 Redwood，能效比号称超 NVIDIA — mark_k · 2026-08-28
- 暂停并恢复云 GPU：不丢失 ComfyUI 环境的省钱技巧 — deployonaquanode · 2026-08-28
- 手把手：用 Terraform 与 GitHub Actions 将 Agent 部署至 AWS ECS — kmeanskaran · 2026-08-28
- AMD ROCm 10.0.0 发布：扩展支持矩阵并简化安装流程 — AnushElangovan · 2026-08-28