Reflection 开源 501B MoE 模型 Beam 1.0 的 RL 后训练全食谱
ying11231 · x · 2026-10-21
- Miles 与 Reflection AI 合作发布了 Beam 1.0（501B 参数 MoE，23B 激活，1M 上下文）的 RL 后训练完整配方，代码、训练配置与示例全部开源（radixark/miles#4149，beam-support 分支）。
- 覆盖全参数 BF16 GRPO（96 或 64 张 H200）与 LoRA 训练（32 张 H200），rollout 由 SGLang 驱动，模型直接从 HF 经 Megatron-Bridge 加载，无需离线 torchdist 转换。
- Cookbook 包含三类用法：数据生成（生成通过测试的软件工程轨迹、工具调用推理样本）、微调（LoRA/QLoRA/全参）、蒸馏（用 Beam 教小模型）。
- 模型架构亮点：43 层滑动窗口注意力（window 512）+ 9 层全注意力、SSMax 位置缩放、Gated GQA（48 查询头/8 KV 头）、Sandwich norms、256 专家 grouped top-8 sigmoid 路由、FP32 router 与 logits softcap 30。权重提供 BF16、FP8、NVFP4 三种精度。
「Infra」频道最新
- FireTrident：80 个编码 Agent 共享一个仓库，62 秒清零 Hono 958 条违规 — dinasaur_404 · 2026-10-21
- 传 xAI 因中国光模块受限,转向 ACC/AEC 与铜互连 — jwt0625 · 2026-10-21
- a16z 旧金山堆场爆满：fal、ElevenLabs 等谈推理系统扩展 — venturetwins · 2026-10-21
- Baseten 零日上线三款新开源模型，自称基准与生产流量双第一 — baseten · 2026-10-21
- Modal 工程团队详解 Serverless 推理路由的粘性会话设计 — blelbach · 2026-10-21
- 西湖浙大发 EdgeKernelBench:LLM 生成边缘端内核正确率 64.5% 仅 25.5% 够快 — encodelab · 2026-10-21