AMD MI355X跑DeepSeek V4.1 Flash：每用户2100+ tokens/秒
JiaZhihao · x · 2026-10-28
Jia Zhihao 宣布与 AMD 合作，在 AMD Instinct MI355X GPU 上实现超低延迟 LLM 推理：8 张 MI355X 即可让 DeepSeek V4.1 Flash 达到每用户 2100+ tokens/秒，且保持完整模型质量。AMD 方面祝贺 lithosAI 用持久化 megakernel（persistent megakernels）在 AMD 硬件上推进推理前沿，并强调开放硬件与指令级控制带来的创新空间。
所属事件:Lithos与AMD合作：8张MI355X跑DeepSeek达每用户2116 tokens/秒(2 条相关)→
「Infra」频道最新
- 开发者用 EmbeddingGemma 2 搭实时嵌入端点：文本 20ms，全程只跑 MacBook CPU — generativist · 2026-10-28
- Qwen3.8 27B 统计无损量化 GGUF 上架 Hugging Face,作者分析藏付费墙 — Dany0 · 2026-10-28
- Nebius 实测:8 张 GPU 拆成 8 份跑 Cosmos,出片量多 42.5% — shashib · 2026-10-28
- AI 时代数据中心成安全新前线：网络与物理威胁加速融合 — ChuckDBrooks · 2026-10-28
- 开源工具 preowned 把 macOS 内置模型变成 OpenAI 兼容本地 API — pcuenq · 2026-10-28
- AMD MI355X 上跑出 2100+ tok/s，推理引擎协同设计削平协调税 — JiaZhihao · 2026-10-28