Zyphra 发布 MI355X 第二波推理优化,加速 MoE 与长上下文服务
teortaxesTex · x · 2026-10-21
Zyphra 宣布推出针对 AMD Instinct MI355X GPU 的第二波推理优化，由其优化引擎 ZOE(Zyphra Optimization Engine)驱动。
工程博客详细介绍了内核层面的工作，为前沿开源模型提供更快的 MoE 与长上下文推理服务，这也是对 AMD 生态推理栈的重要工程投入。
「Infra」频道最新
- 路透：字节阿里腾讯下单超300万块英伟达RTX PRO 5500，总价超350亿美元 — SumitGup · 2026-10-21
- Perplexity Computer 支持完全本地运行:模型与 agent 都留在 Mac 上 — khademinori · 2026-10-21
- TorchTPU 实测演示：vLLM 与 SGLang 统一后端跑 TPU 服务 — Rob_Mulla · 2026-10-21
- Google 联合 Red Hat 发布 llm-d 1.0，K8s 原生分布式推理栈 — rseroter · 2026-10-21
- acs infra 上线免费 base model API，开放 Llama 3.1 8B/405B 供研究者使用 — amplifiedamp · 2026-10-21
- 开发者用 incus 容器给每个 Agent 独立工作区，解决 Mac 负载瓶颈 — kevinkern · 2026-10-21