NVIDIA 开源 AIPerf:面向 AI 模型的性能测试工具发布
TheZachMueller · x · 2026-10-04
NVIDIA 发布了 AIPerf 的官方文档(当前版本 v0.13.0),这是一个用于对 AI 模型做性能测试(performance testing)的软件包,提供 CLI 与 Python API 两种使用方式。文档站还内置了对 AI agent 友好的索引:在任意 URL 后追加 /llms.txt 可获取页面级索引,追加 .md 可获取 Markdown 版本,根目录也有文档总索引,方便智能体直接消费。
「Infra」频道最新
- 本地 LLM 评测乱象：tokens/s 单线程数据基本是噪音 — TheZachMueller · 2026-10-04
- Ahmad Osman 带 DGX Station 上直播：谈本地 AI 如何变得有竞争力 — basedjensen · 2026-10-04
- 三台本地机各构建 Miro 克隆五次,tokens/s 指标毫无意义 — julianharris · 2026-10-04
- 内存两年涨近 4 倍,跑 256k 上下文已买不起内存条 — lxfater · 2026-10-04
- 64GB 内存本地部署 Qwen3 千亿参数模型,192K 上下文体验良好 — lxfater · 2026-10-04
- TPU 每百万 token 成本对比 Blackwell，Google 占优 — cgarciae88 · 2026-10-04