Zyphra 发布 ZYFA：AMD MI355X 上 FP8 注意力吞吐达 AITER 1.16-1.76 倍
bclavie · x · 2026-11-06
Zyphra 发布 Zyphra FlashAttention(ZYFA),针对 AMD MI355X 提供更快、更精确的 8 位浮点(FP8)注意力实现。在真实模型输入、16K token、持续负载条件下，其 prefill 内核吞吐量达到 AMD 官方推理内核库 AITER 的 1.16–1.76 倍。
「Infra」频道最新
- 6 套 LLM 推理引擎横评:256K 长上下文下速度与质量并测 — fuzhongkai · 2026-11-06
- 千元内 20GB+ 显存仅剩 AMD:7900 XT/XTX 跑视频生成还靠谱吗 — Beneficial_Fish_7509 · 2026-11-06
- 蓝色起源发布 Northstar 发动机：推力 71.5 万磅，比 BE-4 轻 30% — beffjezos · 2026-11-06
- 逐 token 打草稿成新瓶颈，DFlash 改为整块并行草稿加速推理 — Lianhuiq · 2026-11-06
- 一张桌面 B70 跑起全 AI 电台：边直播边本地生成音乐 — prince_pringle · 2026-11-06
- vLLM 团队创办的 Inferact 日处理 token 超 7 万亿 — Xianbao_QIAN · 2026-11-06