Muse Glimmer 30B 模型获 Llama.cpp 零日支持,Mac Studio 本地跑通
MaziyarPanahi · x · 2026-08-10
开发者感谢 Hugging Face 和 UnslothAI 为 Meta 新发布的 Muse Glimmer 30B 模型提供了零日(首发)支持,使其能通过 Llama.cpp 和 GGUF 格式在本地运行。
作者已在 Mac Studio 上成功实现本地部署,实测推理速度约为 30 tokens/s,并展示了 API 返回的推理流实时折叠效果。目前正进一步测试该本地栈在医疗工作流、视觉流水线和智能体任务中的表现。
所属事件:Meta开源30B模型Muse Glimmer,主打本地智能体(108 条相关)→
「Infra」频道最新
- Zero 下一代 IVM 引擎塞进单个 DO,实时查询 R2 上 100GiB 数据库 — threepointone · 2026-10-16
- Aziz 梗图开玩:2028 年自己开 Roadster 去芯片工厂提货 — beffjezos · 2026-10-16
- 一个人维护 40 亿台设备的时钟:时区数据库背后的志愿者 — danbri · 2026-10-16
- 4x DGX Spark 跑 DeepSeek V4.1 Flash 实测:内存根本不够,494 t/s 有水分 — Aroochacha · 2026-10-16
- 开发者开源 Intel GPU Vulkan 推理升级:部分路径摄取提速 2 倍 — Fun-Aardvark-1143 · 2026-10-16
- ELSFP 光封装三大痛点:插损超 3dB、PMF 贵且难装、洁净间要求高 — jwt0625 · 2026-10-16