推理经济学崛起：Google 月处理 3.2 千万亿 tokens，达一年前七倍
mikeflache · x · 2026-10-05
The Business Engineer 刊文《Inference Engineering: The Tokenomics of AI》，提出 AI 超级周期正从「训练阶段」进入「推理阶段」。
论证脉络：
- 过去四年行业资本与注意力集中在制造智能：先是预训练（扩大 Transformer 规模），后是后训练（指令微调、RLHF、可验证奖励、推理技术）。
- 现在的核心变化是推理：训练是集中式的大规模运行，而推理在每次使用时发生。Google 报告 2026 年月处理超过 3.2 千万亿（quadrillion）tokens，约为一年前的 7 倍；同时推理模型输出更长、上下文窗口大增、Agent 完成一项任务会调用模型数十次。
- 作者预测：未来 3-5 年，企业级推理的经济重要性将至少与预训练层持平、甚至大得多——因为一旦智能足够有用，经济问题就从「生产模型」转为「在数百万工作流中持续运营模型」。
注：原文为付费订阅文章，此处仅覆盖可见部分，后半部分关于推理工程细节的内容未公开。
「漫话AGI」频道最新
- 网友争论 GPT「强势人格」根源：价值观自 GPT-5 起一脉相承 — repligate · 2026-10-05
- 既然 AI 终将被超越，「祖先崇拜」或成值得培养的规范 — repligate · 2026-10-05
- AI 末日论依据的 RSI 并不存在，Patterson 称末日派拒绝更新 — davidpattersonx · 2026-10-05
- 「人工甜味剂」前车之鉴：VC 提议改用 Super Intelligence 称呼 AI — soleio · 2026-10-05
- Nous Research：锁定专有模型的 Agent 是坏主意 — intellectronica · 2026-10-05
- 企业发现 AI 没提升生产率：因为很多员工本来就没干活 — tekbog · 2026-10-05