斯坦福研究:本地模型每焦耳准确率16个月提升18倍
Azaliamirh · x · 2026-09-12
研究者指出推理格局正快速走向本地与云端混合。其测算显示,本地模型的「每焦耳准确率」(accuracy per joule)在16个月内提升了18倍,其中5.9倍来自硬件进步、3.0倍来自模型本身的改进。该工作由 Stanford 团队(Azaliamirh、Avanika、Jon Saad-Falcon、Hazy Research、John Hennessy 等)完成,并获英国《金融时报》深度报道。作者认为世界对中心化云端 AI 的依赖正持续下降,端侧本地推理将扮演越来越重要的角色。
所属事件:斯坦福研究：本地云端混合推理可省六至八成成本(3 条相关)→
「Infra」频道最新
- 用 $TAO 两分钟上手开源模型：Bittensor 侧链 SN53 实测体验 — markjeffrey · 2026-10-28
- AI 代码潮致 CI 需求暴涨，Celesto 一周 CI 分钟数增长 9 倍并分享扩容细节 — aniketmaurya · 2026-10-28
- DeepMind 团队发布 Rust 虚拟机 Capsem，为 AI Agent 提供 hardened 隔离环境 — rakyll · 2026-10-28
- SemiAnalysis:OpenAI 正洽谈约 1GW TPU 租约并寻找场址 — dylan522p · 2026-10-28
- 实测 11 种视频超分方案：本地免费、Topaz 与云端全横评 — lopas99 · 2026-10-28
- 不稳定测算CEO站台解耦算力:要让AI迎来「宽带时刻」 — beffjezos · 2026-10-28