NeurIPS 2026 论文 IPW：衡量本地 AI 的「每瓦智能」效率
HazyResearch · x · 2026-10-20
Stanford Hazy Research/Snorkel 团队的论文《Intelligence per Watt: Measuring Intelligence Efficiency of Local AI》被 NeurIPS 2026 接收，两位作者将于 11 月 4 日在 Snorkel 读书会 presentation。
该工作覆盖 20+ 模型、8 种加速器、100 万条真实查询，提出 IPW 指标衡量本地 AI 每瓦功耗能交付多少能力，并回答哪些查询适合放在端侧、哪些该上云。作者将举办线上读书会讲解。
「Infra」频道最新
- 44 节免费 GPU 内核工程系列：从朴素 GEMM 讲到 FlashAttention 覆盖 H100/Blackwell — Winter_Mistake_3185 · 2026-10-20
- REAX 推理引擎将 Perplexity Decider 提速至 6 倍，个人免费商用 — airesearch12 · 2026-10-20
- 实测 BitNet CPU 推理出错:困惑度达参考值 6 倍,一行修复可解 — matheus-c-feitosa · 2026-10-20
- 数据中心才是真正的回形针,全球债市是那块钢 — m2saxon · 2026-10-20
- AMD 称全球月推理 token 消耗已超 4 亿亿，两年暴涨 95 倍 — Beth_Kindig · 2026-10-20
- Meta 披露吉瓦级超集群 Prometheus:首期已建成,目标百万 GPU — BenBajarin · 2026-10-20