模型太强也是灾难:Google TPU 起源于语音识别推理算力瓶颈
demian_ai · x · 2026-08-29
Google TPU 的诞生源于一次“成功的灾难”:Google 语音团队训练出了超越人类的转录模型,却因算力紧缺仅能部署在 Nexus 手机上。Jeff Dean 预判到未来的推理需求,决定放弃 FPGA 转而开发 ASIC,从而催生了 TPU。
这揭示了 AI 发展的一个典型路径:
- 模型能力跨过阈值;
- 需求爆发式增长;
- 现有服务经济学崩溃;
- 基础设施成为产品瓶颈。
有时,无法负担部署模型的成本,反而会倒逼出全新的芯片计划。
「Infra」频道最新
- 传 SK 海力士美国建厂或以美方放宽对华设备出口为条件 — pstAsiatech · 2026-10-15
- Perplexity 新 embedding 模型:大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- Unsloth 发布 Nemotron 3.5 本地量化包:Bolt 24GB 内存可跑 — danielhanchen · 2026-10-15
- vLLM-Omni 联手 BFL 与 NVIDIA 上线 FLUX 3 Image Klein 当日支持 — vllm_project · 2026-10-15
- NVIDIA Nemotron 3.5 Super VL 上线 Applied Compute 平台训推 — ypatil125 · 2026-10-15
- CoreWeave 债券收益率破 16%,贷款期限比客户合同长约 2 年 — tengyanAI · 2026-10-15