SGLang 携手 AWS 推出 Trainium 插件 beta，支持 Trainium2/3 推理与 RL
ying11231 · x · 2026-10-23
SGLang 官宣与 AWS 合作，基于 TorchNeuron 推出 SGLang AWS Trainium 插件 beta，运行在 Trainium2 和 Trainium3 上。
Beta 内容：
- 推理服务与 RL rollout 支持
- 支持 Qwen3、DeepSeek、GLM 模型家族，更多前沿模型陆续加入
- 异构 RL 早期预览：rollout 在 Trainium 上跑、训练走 Miles（radixark）
更多细节将在下月 SGLang Summit 公布。这是开源推理栈向 NVIDIA 之外的自研芯片扩展的重要一步。
「Infra」频道最新
- 1995-2005 年 PC 游戏暗藏 x87 指令，成 ARM 模拟性能杀手 — lauriewired · 2026-10-23
- 开发者控诉视频模型 API 加价乱象:Runway 抽成 414%,Sume API 宣称零加价 — Scobleizer · 2026-10-23
- Google Cloud 发布 Agent Compute Engine:专为 AI Agent 打造的新 VM 类型 — testingcatalog · 2026-10-23
- LM Studio 推出本地朗读功能,由微型本地 TTS 模型 Phonon 驱动 — mattturck · 2026-10-23
- Lam Research Q3 系统营收环比涨 35%,2027 设备市场看超 2000 亿美元 — BenBajarin · 2026-10-23
- Hugging Face Hub 上线 OpenUSD，NVIDIA 入驻 2500+ 仿真资产 — mishig25 · 2026-10-23