MRVL 揭与谷歌芯片协议:推理加速器最高 1200 亿美元,TPU 旁的解码芯片成关键
demian_ai · x · 2026-10-08
MRVL 投资者日披露了与谷歌的合作细节:定制芯片接入 TPU 体系、含推理加速器,若谷歌达成采购目标,至 2033 年交易价值最高可达 1200 亿美元;另有传闻称一款仅推理芯片与 TPU 按 2:1 配对(比例未经证实)。
作者解释了硬件分工的逻辑:读 prompt 是计算密集任务,TPU/GPU 擅长;逐 token 生成答案则是内存任务——每个 token 都要把模型权重和整个对话从内存里重新读出。Etched CEO Gavin Uberti 指出 decode 全是内存游戏,Blackwell 上 GPU 间一跳约 4000 纳秒,所以 8 卡并不能带来 8 倍提速。因此硬件正沿这条线分化:一颗芯片负责思考 prompt,另一颗专为快速回话,全集群的内存带宽与互连承压——MRVL 给出的增长盘子中互连就占约 375 亿美元。
「Infra」频道最新
- GitHub Copilot 可将任务交给本地模型 MAI-Code-1.1 Flash — mariorod1 · 2026-10-08
- 微软联合 Nvidia 推 Surface Spark:128GB 内存售价 6000 美元 — casper_hansen_ · 2026-10-08
- Google 发射首颗搭载 4 颗 TPU 的测试卫星,推进太空算力计划 — CurieuxExplorer · 2026-10-08
- GPU 租赁平台 Lium:出租率创新高,闲置 GPU 也有保底收益 — const_reborn · 2026-10-08
- llama.cpp 登上微软 Windows 发布会大屏,作者ggerganov感慨软硬栈合流 — ggerganov · 2026-10-08
- 30 天追踪一个 24/7 agent:VPS $6、API $22、宕机 2 小时 — YamOk7317 · 2026-10-08