TokenSpeed 刷新 Kimi K3 在 AMD 上的速度纪录：比 ATOM 快 1.4 倍
zhyncs42 · x · 2026-10-10
TokenSpeed 宣布在 AMD Instinct MI355X 上运行 Kimi K3 达到新 SOTA：8 卡 MI355X 上单用户输出 216 token/s，解码速度比 ATOM 快 1.4 倍且精度更高。测试基于真实 agent 负载：多轮 SWE-smith、5 万+ 上下文、10-15 轮交互。技术要点：
- AMD 是一等公民而非事后适配
- 所有 AMD kernel 用 Triton + Gluon 重写
- 与 AMD Triton 团队协作完成
作者预告将有技术深挖文章。
所属事件:Kimi K3 登陆 8×AMD MI355X，TokenSpeed 创推理速度新纪录(2 条相关)→
「Infra」频道最新
- SGLang-Diffusion 扩散模型推理框架将亮相 PyTorch 大会 — PyTorch · 2026-10-10
- 吴恩达：我的一个 agent 一天发起 5000–10000 次网页搜索，数据中心远远不够 — DeepLearningAI · 2026-10-10
- SGLang Summit 2026 议程公布:Intel/OpenAI/Perplexity 高管齐聚 SF — ying11231 · 2026-10-10
- AI 推理市场明年或从 1600 亿增至 3500 亿美元,软件毛利将承压 — Sethwinterroth · 2026-10-10
- Nebius 净债务仅 0.2 倍营收，远优于 CoreWeave 的 2.9 倍 — Beth_Kindig · 2026-10-10
- Devon Eriksen 用「一罐重元素」类比讲解先进芯片制造的资源门槛 — Yamapama · 2026-10-10