M5 Ultra 跑 Qwen 3.8 Flash Next 预填充达 3100 tok/s
GabGarrett · x · 2026-09-22
mweinbach 让 astra 优化 Qwen 3.8 Flash Next 在 M5 Ultra 上的运行,目前预填充(prefill)速度已达约 3100 tok/s。GabGarrett 评论:虽然 Spark 粉丝忙着嘲弄 Ultra,但这块硬件可能被证明是性能怪兽。信号:新一代苹果芯片统一内存对本地大模型推理的吞吐表现值得期待。
「Infra」频道最新
- 树莓派固件锁定原始内存容量，禁止用户换更大 RAM — ngxson · 2026-09-22
- fal 推出 H3 Max:3 秒生成 5 秒前沿级视频,全栈优化揭秘 — gorkem · 2026-09-22
- NVIDIA EPD 分离架构:图像首 Token 最快提速 5 倍 — dl_weekly · 2026-09-22
- 16GB Mac 本地跑 MiniMax H3 生视频：8-10 秒片段约 15-20 分钟 — coberholzer · 2026-09-22
- 30步×每步2.5万rollout的异步RL训练配置曝光 — willcb · 2026-09-22
- Lisa Su 执掌 AMD 十一年：市值从 20 亿涨到 1 万亿美元 — xiaosun86 · 2026-09-22