拆解 Beam 架构:501B 参数每 token 仅激活 8 个专家,23B 生效
vllm_project · x · 2026-10-16
vLLM 系列帖解析 Reflection Beam 1.0 架构:52 层(前 3 层稠密,其余 MoE),共 256 个专家,每 token 仅激活 8 个,活跃参数 23B/总参 501B。注意力采用 512-token 滑窗与全局 NoPE 注意力交替,配置上下文 1M(官方注明 1M 仅为配置上限,不代表全窗口质量)。Harmony 结构负责推理、最终回复与工具调用,另有一个 5 层 drafter 提供投机解码 token。
所属事件:vLLM 为 Reflection Beam 提供首日支持与全套优化(10 条相关)→
「Infra」频道最新
- 旧金山将办算力交易市场：预审买家卖家现场签约束交易 — Scobleizer · 2026-10-17
- eigenrobot 欢迎数据中心落户：盼其止住连年两位数房产税涨幅 — eigenrobot · 2026-10-17
- 开发者吐槽 Claude 桌面版比本地跑 Qwen 3.8 Next 更耗电 — andrew_n_carr · 2026-10-17
- Cisco OCP 解读：机架仍是 scale-up 边界，Silicon One 对冲 NVIDIA — BenBajarin · 2026-10-17
- Credo 有源 LED 光缆亮相 OCP：铜缆 130 亿美元市场通往短距光互连 — BenBajarin · 2026-10-17
- Broadcom OCP 解读：Tomahawk 之外，Jericho 才是被低估的一半 — BenBajarin · 2026-10-17