LMSYS 携手 NVIDIA 实测:Vera CPU 跑沙盒,agentic RL 训练单回合快 11%
ying11231 · x · 2026-11-14
LMSYS 宣布与 NVIDIA 合作,在 agentic RL 训练框架 RadixArk Miles 中把所有沙盒跑在 NVIDIA Vera CPU 上,并系统性对比了当前一代 AMD EPYC Turin 与 Intel Xeon 61。据称这是首个公开的沙盒全跑在 Vera CPU 上的端到端 agentic RL 训练结果。
- 测试结论:负载下平均 episode 时间缩短 11%,工具执行更快意味着训练样本更早回传、GPU 等待更少。
- 架构:沙盒基于开源 AgentENV,每个沙盒是轻量 Firecracker 虚拟机(比容器隔离性更强),从快照启动不到 0.1 秒;推理由 SGLang 服务,与训练同在 GPU 集群上。
- 核心观点:GPU 越快,CPU 速度在 agentic RL 中越关键——模型要在沙盒里跑命令、编译代码、跑测试再决定下一步,一次训练可能同时开数百个沙盒。
- Vera 的优势随训练规模变大和推理加速而进一步扩大,完整数据与方法论已发布在 LMSYS 博客。
「Infra」频道最新
- 北达科他小镇公投3:1否决数据中心限制令,市长逐一驳斥担忧 — kevinnbass · 2026-11-14
- InferenceForge 调优 Kimi K3 推理,吞吐超公开最佳基线 43% — kaiwei_chang · 2026-11-14
- 网友借到 DGX Station 一个月:GB300 实测数据全公开 — CookEasy · 2026-11-14
- Hugging Face 推出 llama.cpp v1 引擎:手机到浏览器全平台跑模型 — LinkedInNews · 2026-11-14
- 2025 年全球新装工业机器人超 60 万台,中国占 59% — ingliguori · 2026-11-14
- SGLang 正式并入 NVIDIA AI Enterprise,NIM 认证微服务上线 — ying11231 · 2026-11-14