Qwen3.8-27B 实测:单卡 Blackwell 跑出 268 tok/s
EAccelerate_42 · x · 2026-08-24
开发者发布了 Qwen3.8-27B 模型在单块 RTX PRO 5000 Blackwell (48GB) 上的优化方案。利用 SGLang、DFlash2 block-16 和 Triton 注意力机制,在完整 262K 上下文下达到了平均 267.8 tok/s(峰值 310.7),比 EAGLE 基准快 2 倍。项目提供了可复现的安装与测试脚本。
「编程与Agent」频道最新
- 最快的 GPU kernel 会被 AI 写出来吗?发帖人称验证条件近乎完美 — fleetwood___ · 2026-10-16
- Anthropic 工程主管的四问 prompt,让 Agent 更有野心 — daniel_mac8 · 2026-10-16
- ChainForge 作者晒「特色地图」:用子 agent 分头开发大型 PR — IanArawjo · 2026-10-16
- aiDotEngineer 实测多种 Agent 编排管线,人类扮演 Foreman 调度五角色 — vikvang1 · 2026-10-16
- 用 Claude Code + Hyperframes 两小时量产 200 条视频 — mcraddock · 2026-10-16
- Penny University 将办「软件工厂」小组讨论,分享多模型无锁定工作流 — JnBrymn · 2026-10-16