SGLang 把 Qwen3.8-27B 变决策模型,百毫秒内通关宝可梦火红
zhaoran_wang · x · 2026-09-30
SGLang 团队将 Qwen3.8-27B 改造成多模态决策模型,从实时游戏画面出发,以低于 100 毫秒的决策延迟打通了《宝可梦火红》的四天王与冠军。
工程层面:SGLang 新增原生 /v1/decisions 接口,可以把 LLM 和 VLM 当作分类与打分模型来用;另外加了 /v1/systemone,让 Jev 类开源模型可配合 TypeSafe SDK 使用。
「Infra」频道最新
- DeepGEMM 移植华为昇腾并开源：GEMM 达硬件上限 99.8% — zheanxu · 2026-09-30
- 18 个月智能-成本前沿巨变:从 GPT-5 mini 17 分到 Opus 5.5 拿下 58 分 — ArtificialAnlys · 2026-09-30
- Google Project Suncatcher 首次将 TPU 送入太空，10 月 1 日随火箭升空 — allisondman · 2026-09-30
- Photon 2.6 发布:FP8+投机解码,B200 上 Qwen3.5 27B 跑出 400 tok/s — Bedrovelsen · 2026-09-30
- Agent 时代 CPU 成新瓶颈：Vera 单独部署预示 CPU:GPU 比例将上调 — AccBalanced · 2026-09-30
- AT&T CEO 放话：SpaceX 手机卫星策略「行不通」 — RachelVT42 · 2026-09-30