MRVL 揭与谷歌芯片协议:推理加速器最高 1200 亿美元,TPU 旁的解码芯片成关键

demian_ai · x · 2026-10-08

MRVL 投资者日披露了与谷歌的合作细节:定制芯片接入 TPU 体系、含推理加速器,若谷歌达成采购目标,至 2033 年交易价值最高可达 1200 亿美元;另有传闻称一款仅推理芯片与 TPU 按 2:1 配对(比例未经证实)。

作者解释了硬件分工的逻辑:读 prompt 是计算密集任务,TPU/GPU 擅长;逐 token 生成答案则是内存任务——每个 token 都要把模型权重和整个对话从内存里重新读出。Etched CEO Gavin Uberti 指出 decode 全是内存游戏,Blackwell 上 GPU 间一跳约 4000 纳秒,所以 8 卡并不能带来 8 倍提速。因此硬件正沿这条线分化:一颗芯片负责思考 prompt,另一颗专为快速回话,全集群的内存带宽与互连承压——MRVL 给出的增长盘子中互连就占约 375 亿美元。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →