Reflection 开源 500B 模型 Beam,Google Cloud 首日支持提速 5 倍
rseroter · x · 2026-10-17
Reflection 发布首个开源权重模型 Beam:Apache 2.0 许可,定位前沿软件工程与长程 agentic 任务,发布即提供 BF16/FP8/NVFP4 检查点。官方称其在 500B 参数级别实现 3-4 倍于同类开放模型的推理计算效率。
Google Cloud 同步宣布 day-0 支持,在 AI Hypercomputer 与 NVIDIA 基础设施上提供部署配方:
- 结合 llm-d(vLLM)与 NVIDIA Dynamo(SGLang)优化服务栈,A4X Max 实例(GB300 NVL72)上实现最高 5 倍吞吐、8 倍更低延迟;G4 VM(RTX PRO 6000)上约 2 倍吞吐、8 倍低延迟
- 架构上采用 KV-cache 感知路由、prefill/decode 分离、加速器内存-CPU 内存-存储三级分层 KV 缓存
- Reflection 开源 VP Joe Spisak 称生产部署实测获得最高 5 倍性能与 8 倍低延迟
所属事件:Reflection 开源 Beam 1.0:501B MoE、1M 上下文、Apache 2.0(42 条相关)→
「Infra」频道最新
- Kimi K3 三个月后:1.56TB 全量模型本地难跑,排名已被追平 — Sanbi_Ai · 2026-10-17
- Epoch AI 数据:xAI 的 GPU 其实比 CoreWeave 还少 — bookwormengr · 2026-10-17
- 黄仁勋回应 AI 股抛售:一切都会过去,只是暂时现象 — Polymarket · 2026-10-17
- Cloudflare Workers AI 全面推行零数据保留,承诺不用客户数据训模型 — michellechen · 2026-10-17
- Modal 揭秘速度护城河:分层分布式文件系统 ImageFS — dejavucoder · 2026-10-17
- AWS 构建 AgentCore 生产级评测框架:agent 失败是静默的 — AWS ML Blog · 2026-10-17