谷歌一代内连发四款 TPU,新增机密推理与超大上下文型号

AccBalanced · x · 2026-11-10

谷歌宣布扩展第 8 代 TPU 产品线,新增 TPU 8i Max(面向超大上下文窗口、单机架算力密度最高)和 TPU 8tx(专为安全/机密推理打造)。这是谷歌首次在同一年、同一代内推出四款不同的 TPU 系统。

软件栈同步升级:开发者可通过 TorchTPU 以原生 PyTorch 与 Hugging Face 模型运行(零代码改写),开源的 TPU Sync 号称可将 KV 传输延迟降低 90% 以上。AMD CEO 苏姿丰确认 EPYC 将作为 TPU 8tx 的宿主处理器,双方展开合作。

所属事件:谷歌一年内连发四款第八代 TPU,加码挑战 Nvidia(13 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →