Moondream 开源推理引擎 Photon 2.1:新增语音识别,吞吐最高 3.1 倍于 vLLM
xeophon · x · 2026-09-03
Moondream 发布实时多模态推理引擎 Photon 2.1,新增流式语音识别支持(Whisper、Qwen3-ASR、Parakeet)与 TTS 模型,并加入 B200 GPU 支持。
官方称在全部 16 组同配置 H100/B200 测试中击败 vLLM、Qwen-ASR 与 NeMo,吞吐最高达 3.1 倍。项目开源,pip install -U moondream 即可使用。
「Infra」频道最新
- Perplexity 开源 Lily:Apple 芯片 Qwen 专用推理引擎,解码快 35% — inductionheads · 2026-09-03
- Mitchell Hashimoto 公开 Superlogical 服务器内存优化实录 — sull · 2026-09-03
- Lily 跑分:M5 Max 上预填吞吐高 MLX-LM 23%,解码高 35% — perplexity_ai · 2026-09-03
- Perplexity 开源本地推理引擎 Lily,专为 Apple 芯片上的 Qwen3.6 打造 — perplexity_ai · 2026-09-03
- FastH3 实现本地推理:支持 Apple Silicon 与 DGX Spark — Vandy_simp · 2026-09-03
- 断言：没有数据中心建设潮，美国早已陷入严重衰退 — ZeeshanZiaML · 2026-09-03