Mac Studio浏览器跑30B大模型达32 tok/s，本地AI性能惊艳
MaziyarPanahi · x · 2026-08-12
开发者实测在 Mac Studio 上完全通过 Chrome 浏览器加载 30B 参数的稠密模型（Muse Glimmer），运行医疗 AI 流水线（包括隐私信息检测、临床实体识别和关系抽取）时，推理速度达到了约 32 tokens/秒。这一实测数据展现了当前端侧和本地 AI 部署能力的显著进步。作者预告晚些时候还会带来 Qwen3.8 27B 的类似测试。
所属事件:Meta开源Muse Glimmer 30B：端侧智能体实测惊艳(14 条相关)→
「Infra」频道最新
- MLCommons 推出 MLPerf Endpoints,按真实服务端点测推理性能 — TheKanter · 2026-10-16
- Neocloud 并购潮解析：CoreWeave、Nebius 等押注 GPU 稀缺之外的价值 — AccBalanced · 2026-10-16
- AI 驱动的时序感知功耗优化:学习排序+基线保全策略回收布线后功耗 — Amit Sharma · 2026-10-16
- Nscale 数据中心液冷屡漏半年起火，挪威查出10项安全违规 — saranormous · 2026-10-16
- WSL 3.0 发布:内置原生容器,高频系统调用内核耗时降约 16% — solyarisoftware · 2026-10-16
- 魔改 22GB RTX 2080 Ti 跑本地 LLM,值不值?作者求实测经验 — Dave86ch · 2026-10-16