MLPerf Storage v3.0 发布：144 项成绩，新增 KV 缓存与向量数据库测试
TheKanter · x · 2026-09-02
MLCommons 发布 MLPerf Storage v3.0 存储基准结果：共 144 项结果、19 家机构提交、11 家首次参与。v3.0 覆盖四类工作负载：训练、checkpoint 写入、向量数据库、KV 缓存，参数规模从 8B 到 1250B 的 checkpoint 均在测试范围内。
主要新增：
- KV Cache 测试：衡量 LLM 推理中缓存读写对存储系统的压力；
- Vector DB 测试：衡量高维向量索引与查询的存储性能；
- 新增 S3 对象存储 API 支持（与 POSIX 并列）；
- 新效率指标：机架密度（rack-unit density）与预配功耗。
工作组联席主席 Brian Belgodere 表示，新测试把单体 AI 系统拆解为 checkpoint、KV 缓存、向量库等具体存储模式，让各方对 AI 存储需求有更清晰的判断。
「Infra」频道最新
- 覆盖 Bedrock/Azure/Vertex 三万条价格，开发者做出云端模型变动雷达 — jsandhu0780 · 2026-10-18
- 1270万 tokens 仅花 0.14 美元，缓存命中率 99.6% 的 agent 实测 — teortaxesTex · 2026-10-18
- 单卡 9060 XT 16GB 跑 Qwen3 27B：262k 上下文 42.7 tps — Maglcite · 2026-10-18
- SlateDB+Lance+Datafusion 自建数据栈,为客户年省数百万美元 — sh_reya · 2026-10-18
- 视频生成 API 每 10 秒约 0.5 美元,自建服务器何时更划算? — Key-Lychee-913 · 2026-10-18
- vLLM 联手 NVIDIA 优化 Kimi K3:GB300 上解码达 842 tokens/s — vllm_project · 2026-10-18