单卡 5090 跑出每秒 206 token,Qwen3.8-27B 性能实测
StefanoGogioso · x · 2026-08-17
SGLang 宣布对 Qwen3.8-27B 模型提供 Day-0 支持。实测数据显示,在单张 RTX 5090 上配合 NVFP4 及 DSpark 技术,解码速度达到 206.1 tok/s;在 DGX Spark 上则为 38.28 tok/s。该模型在智能体规划和长程任务上表现优异,适合 3D、游戏设计及编码场景。
「Infra」频道最新
- Bittensor子网118新增超廉价推理,整合多家AI服务 — markjeffrey · 2026-08-17
- Meta 2026 年起将依赖英伟达 Blackwell 与 AMD Helios 算力 — Beth_Kindig · 2026-08-17
- Stripe拟超70亿美元收购OpenRouter,溢价5.4倍引关注 — rohanpaul_ai · 2026-08-17
- Wici One 声称通过 NVMe 流式传输解决本地显存瓶颈 — Torodaddy · 2026-08-17
- antirez优化DwarfStar:Station上170 t/s生成,22k tokens/s预填充 — antirez · 2026-08-17
- 算力淘金热:CoreWeave 季度营收超早期巨头云厂商 — a16z · 2026-08-17