M3 Ultra 跑 DeepSeek V4 速度达 37 t/s

mishig25 · x · 2026-08-03

antirez 开发的推理引擎 DwarfStar 在搭载 512GB 内存的 M3 Ultra 上运行 DeepSeek V4 Flash 0731（mxfp4 量化版本），实测推理速度达到约 37 tokens/s。

原文链接 →

「Infra」频道最新

• TensorSharp 实测：投机解码让 DeepSeek 速度翻倍 — fuzhongkai · 2026-08-03
• 开发者构建MCP服务器：覆盖480万播客、1.3亿集，可SQL查询 — Harj0t1singh · 2026-08-03
• LLM 路由并非核心痛点，Token 效率才是破局关键 — AdditionalWeb107 · 2026-08-03
• 单芯片功耗直逼500W，下一代Rubin散热挑战引热议 — jwt0625 · 2026-08-03
• 5090与Mac Studio混用困境：如何跨网络调度本地AI算力？ — ShittyMillennial · 2026-08-03
• 为何 SQLite 架构将在 AI Agent 时代占据主导？ — glcst · 2026-08-03

更多「Infra」频道 AI 资讯 →