SGLang 首发支持 Meta 新模型 Muse Glimmer，单卡吞吐量达 230 tok/s
NVIDIAAI · x · 2026-08-10
SGLang 宣布为 Meta 最新发布的 Muse Glimmer 多模态模型提供 Day-0 支持。
在开启 NVFP4 和 DFlash 优化的情况下，该模型在单张 RTX 5090 显卡上的推理速度可达约 230 tokens/秒。此外，该模型也支持开箱即用运行于 NVIDIA RTX PRO 6000、DGX Spark 以及通过 MLX 框架运行于 Apple Silicon 平台。
所属事件:Meta开源30B模型Muse Glimmer，主打本地智能体(108 条相关)→
「Infra」频道最新
- Zero 下一代 IVM 引擎塞进单个 DO，实时查询 R2 上 100GiB 数据库 — threepointone · 2026-10-16
- Aziz 梗图开玩：2028 年自己开 Roadster 去芯片工厂提货 — beffjezos · 2026-10-16
- 一个人维护 40 亿台设备的时钟：时区数据库背后的志愿者 — danbri · 2026-10-16
- 4x DGX Spark 跑 DeepSeek V4.1 Flash 实测：内存根本不够，494 t/s 有水分 — Aroochacha · 2026-10-16
- 开发者开源 Intel GPU Vulkan 推理升级:部分路径摄取提速 2 倍 — Fun-Aardvark-1143 · 2026-10-16
- ELSFP 光封装三大痛点：插损超 3dB、PMF 贵且难装、洁净间要求高 — jwt0625 · 2026-10-16