Kimi K3 跑进 AMD MI355X,节点吞吐达到 952 tok/s
AccBalanced · x · 2026-08-04
引用内容称,团队已让 Kimi K3 跑在 AMD MI355X 上,达到 952 tok/s/node 和 118 tok/s 的单流速度。
帖子进一步声称,这套方案在节点聚合吞吐上达到 B200 的 3.8 倍,单流解码达到 1.3 倍,并且在性能/价格比上优于 B300,分别为 48 vs 33 tok/s/$。更多细节放在回复里。
所属事件:AMD MI355X 跑 Kimi K3 吞吐达 952 tok/s(6 条相关)→
「Infra」频道最新
- 同样 1000 个 Cloudflare Durable Objects,月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版,主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention:同时压 KV cache、算力并保质量 — baidu · 2026-10-16
- DuoDiscover 让 Agent 自建快速评估代理,TPU 内核提速 2.68 倍 — berkeley_ai · 2026-10-16
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16