SGLang 把 Qwen3.8-27B 变决策模型,百毫秒内通关宝可梦火红
zhaoran_wang · x · 2026-09-30
SGLang 团队将 Qwen3.8-27B 改造成多模态决策模型,从实时游戏画面出发,以低于 100 毫秒的决策延迟打通了《宝可梦火红》的四天王与冠军。
工程层面:SGLang 新增原生 /v1/decisions 接口,可以把 LLM 和 VLM 当作分类与打分模型来用;另外加了 /v1/systemone,让 Jev 类开源模型可配合 TypeSafe SDK 使用。
「Infra」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- Qdrant 1.20.1 发布:冷存储读取减半、量化提速 2 倍 — qdrant_engine · 2026-11-16
- 16GB 显卡本地跑通全套 AI:生图作曲配音视频加 RAG 问答 — llama-of-death · 2026-11-16
- Starlink 在希腊护火车防追尾:134 台机车定位精度达 5 厘米 — XFreeze · 2026-11-16
- Google 将 Agent Substrate、gVisor、OpenRL 捐给 CNCF,Agent 运行底座 1.0 GA — dl_weekly · 2026-11-16
- 英伟达丑闻未完:黄仁勋的千亿美元权力网成焦点 — The Verge AI · 2026-11-16