AMD 与 Cerebras 合作打造分离式 AI 推理系统

Sethwinterroth · x · 2026-07-24

AMD 与 Cerebras 宣布达成合作,共同开发一种分离式 AI 推理系统。该系统旨在通过跨平台分配工作负载来提升效率:由 AMD Helios 负责处理提示词和长上下文窗口,而 Cerebras 的晶圆级引擎(WSE)则专注于低延迟的 Token 生成。

官方表示,这种组合设置在每瓦性能上,有望比 Cerebras 单独运行时提供多达 5 倍的 Tokens/秒。该系统初步计划于 2026 年下半年通过 Cerebras Cloud 提供服务。

所属事件:AMD与Cerebras合作推出解耦式超低延迟AI推理架构(6 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →