按智能产出归一化计算:AI 推理能效已超人脑
FlorianGallwitz · x · 2026-09-14
针对「当前 LLM 在 GPU 上不如人脑省电」的流行说法,作者用粗略测算反驳:以每瓦 IQ 点归一化(并考虑推理速度与并行请求数),人类约为 5,AI 为 7–40,即当前 AI 在等效智力工作上已比人脑更节能。他指出对比错误在于拿单个大脑和可训练新模型的整个数据中心比;大模型主要意味着更多 GPU 并行服务,而非单请求能效下降。
「Infra」频道最新
- SK 海力士完成 HBM4 内部认证,HBM 进入定制基底裸片竞争时代 — blaizedsouza · 2026-09-14
- 一个架构改动让 KV 缓存缩小 8 倍:GQA 原理与 Llama 3 实例拆解 — blaizedsouza · 2026-09-14
- HBM 系统架构全景:从 DDR 演化到 GDDR7、PIM 与 HBF 等替代路线 — blaizedsouza · 2026-09-14
- Nvidia 新论文:让 LLM 稀疏化提速,95% 静默神经元可被跳过 — YesThisIsLion · 2026-09-14
- 马斯克放话:每年送 1000 万吨入轨,太空建太瓦级算力 — elonmusk · 2026-09-14
- 作者实测 NVIDIA 双 Spark 跑 Agent:散热是头号杀手 — jasonkneen · 2026-09-14