推理基础设施转向每token成本
nvidia · x · 2026-07-14
NVIDIA 说，企业从 AI 试点走向生产后，基础设施决策的核心指标已经从“芯片峰值规格”转向 cost per token：
- 每美元能交付多少有用 token
- 每瓦能交付多少 token
- 是否满足目标延迟
它强调，NVIDIA 的全栈推理软件会持续提升硬件表现，所以即使部署后，这个指标也会继续改善。
所属事件:英伟达称软件优化使GPU token产出提升5倍(2 条相关)→
「Infra」频道最新
- 7900 XTX 24GB 能否跑 Qwen，Reddit 征集 ROCm 实测数据 — thenomadexplorerlife · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11
- PyTorch Day Korea 2026 首届线下大会启动,9月13日截止征集演讲 — PyTorch · 2026-09-11
- 本地跑 LLM 选卡:4 张 CMP-170HX 涨价 vs Mac Studio M5 — rumboll · 2026-09-11