Reflection 将 Beam 501B 量化到 MXFP4,双 MI300X 跑满 1M 上下文
ben_burtenshaw · x · 2026-10-29
Reflection AI 的 Beam 501B 原生以 NVIDIA 优先格式发布，社区将其量化为 MXFP4 并修复了 vLLM 的 ROCm 路径，让完整模型在 2× AMD MI300X 上跑通 1M token 全上下文：
- MXFP4 专家权重从 1,003 GB 压缩到 278 GB（官方 FP8 为 506 GB，需 4× MI300X）。
- GPQA-Diamond 达 89.4%，与官方 NVFP4 的 89.3% 基本持平。
- 2 GPU、128 并发下输出 1,462 tok/s；120k token 时解码速度快 21 倍。
- 权重、脚本、评测全部开放，托管在 Hugging Face。
「Infra」频道最新
- 微软裁员4800人省下的钱,只够付两天AI数据中心开销 — aakashgupta · 2026-10-29
- Reddit 用户为 Strix Halo 手写内核，vLLM 长上下文预填充最高提速 31 倍 — asfbrz96 · 2026-10-29
- 韩国 AI 芯片创企 FuriosaAI 新融资,估值翻四倍至 29 亿美元 — dinabass · 2026-10-29
- 开发者吐槽：Claude Code 源码误上生产、骨干网络频繁掉线成日常 — cuenca · 2026-10-29
- 实时 AI 应用系统设计拆解:从流处理到边缘计算的 10 个组件 — goyalshaliniuk · 2026-10-29
- Modal 宣布年化营收破 10 亿美元,并完成新一轮融资 — charles_irl · 2026-10-29