CostGraph 推出 GPU 跟踪功能:算力服务商可按卡归属计费 token 用量
saheedniyi_02 · x · 2026-10-05
GPU 可观测性与成本归因平台 CostGraph 上线 GPU 跟踪功能,面向两类团队:
- 推理服务商(neocloud/infra provider):把硬件与运行其上的模型关联,理解每 token 的服务成本,无需自建额外管线即可按 token/GPU 用量归属与计费
- GPU 规模快速扩张的团队:掌握每张卡被谁使用、实际算力与显存占用,在增购前先回收闲置容量
新 GPUs 页面将跨实例与 Kubernetes 工作负载的加速器汇总到一处,展示硬件型号、位置、GPU/VRAM 利用率、分区情况与最近上报时间,可按厂商、型号、利用率、位置筛选,并基于目录价给出车队级支出估算与月度预测。
「Infra」频道最新
- Mac Studio M5 Ultra 256GB 跑 GLM 5.3 Flash 达 68.8 tok/s — cryotic · 2026-10-05
- 单张 RTX 5090 优化 Qwen3-Omni,首包音频延迟从 213ms 降至 23ms — vllm_project · 2026-10-05
- Eloelo 发布 Dolphin AI:剧本一键转多镜头长视频,角色声音服装全连贯 — CurieuxExplorer · 2026-10-05
- Sarvam AI 推主权 Indic 模型:30B/105B 加 22 语言语音栈,主攻银行与政务 — CurieuxExplorer · 2026-10-05
- vLLM 官方致谢开发者：8 个 PR 落地 semantic-router 与 Mooncake — vllm_project · 2026-10-05
- 华为与高通达成广泛专利许可协议 — pstAsiatech · 2026-10-05