Lambda 推出 AIPerf:实测真实用户负载下的模型性能

Lambda 的 Zach Mueller 团队推出 AIPerf 基准测试,旨在为「模型在真实用户工作负载下的表现」建立衡量标准,并帮助判断何时应扩展系统。Lambda 已将其 Model Cards 更新接入 NVIDIA 的 AIPerf 基准测试包,在最小硬件配置上实测模型的部署推理性能。

2026-10-06 ~ 2026-10-07 · 2 条相关