Nativ 助手首发支持 GLM-5.3 本地跑 505 tok/s
lllucas · x · 2026-08-27
Nativ 宣布首发支持 GLM-5.3-Flash 和 Qwen3.8-Flash-Next。在 M3 Ultra (512GB) 上，GLM-5.3-Flash (320B MoE, 18B active) 使用 4-bit MLX 量化可达到最高 505 tok/s 的预填充速度和 32 tok/s 的解码速度，显存占用峰值低于 380GB，可完全在本地运行。Nativ 是一款基于 SwiftUI 的开源 macOS 客户端。
「Infra」频道最新
- 同预算怎么选:256GB Mac 还是两台 DGX Spark — Whyme-__- · 2026-08-27
- SandboxAQ 开源 Switch：跨平台 Agent 共享工作空间 — Codeblix_Ltd · 2026-08-27
- Polymarket：年底前美国某州叫停数据中心的概率达 68% — Polymarket · 2026-08-27
- 百瓦内本地跑 ds4flash：单线程 40 t/s、六线程 170 t/s — l4rz · 2026-08-27
- Arav Srinivas：本地 Agent 将成消费前沿 Token 的网关 — AravSrinivas · 2026-08-27
- 双 DGX Spark 跑通 Qwen3.8-Flash-Next — NVIDIAAI · 2026-08-27