新论文提出intelligence per watt指标，衡量本地AI效率

Azaliamirh · x · 2026-08-17

斯坦福等机构的研究者提出intelligence per watt（IPW）指标，即任务准确率与功耗之比，用于统一衡量本地AI推理的能力与效率。研究评估了20多个本地语言模型、8种硬件加速器（包括本地和云端）以及100万条真实查询，发现本地小模型在部分任务上已接近前沿模型，且功耗更低。该指标有助于重新思考集中式云基础设施的负载分配。