NVIDIA 称 HGX B300 机密推理开销低于 8%
BenBajarin · x · 2026-07-21
NVIDIA 公布了在可信执行环境（TEE）里运行 AI 推理的基准结果，测试平台是 HGX B300。
- 覆盖 throughput、TTFT、TPOT 等指标，batch size 从 4 到 256
- 官方称在所有配置下的性能开销都 低于 8%
- 这条帖子的重点不仅是技术指标，也在强调这类部署会真实增加 云厂商 和 本地机房 的成本账
「Infra」频道最新
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- SF Compute 创始人：现在买算力是「绝对糟糕的体验」 — IgorCarron · 2026-09-11
- 开源 SmolVM:2026 年 Agent 不止用浏览器,而是拥有整台电脑 — aniketmaurya · 2026-09-11
- PyTorch Day Korea 2026 首届线下大会启动,9月13日截止征集演讲 — PyTorch · 2026-09-11
- 本地跑 LLM 选卡:4 张 CMP-170HX 涨价 vs Mac Studio M5 — rumboll · 2026-09-11
- llama.cpp 为 RDNA4 调优 Flash Attention,大上下文提升明显 — pmttyji · 2026-09-11