Qwen3.8 Flash Next 本地部署参数与性能测试分享
Motor_Ad16 · reddit · 2026-08-28
一位用户分享了在双 3090 显卡和 Threadripper Pro 3955 平台上运行 Qwen3.8 Flash Next 的具体参数配置。使用 Llama CPP 在 Ubuntu VM 中部署，开启了 flash-attn，并配置了 batch-size、ctx-size 等参数。实测结果显示：文本生成速度（TG）为 15-19 t/s，处理速度（PP）达到 550 t/s。作者询问是否有进一步优化的空间。
所属事件:Qwen3.8-Flash 本地部署实测：量化与多卡调优成关键(3 条相关)→
「Infra」频道最新
- 旧金山办「算力交易大厅」：买家卖家面对面签算力协议 — ctjlewis · 2026-10-16
- Temporal Serverless Workers 登陆 Cloud Run:按任务队列自动伸缩、可缩至零 — rseroter · 2026-10-16
- LMA day-0 支持扩至四大芯片:TPU 上首次实现模型零日上线 — ying11231 · 2026-10-16
- Semtech 分析师日幻灯片讲透信号完整性：衰减、带宽、非线性、噪声四大损伤 — BenBajarin · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 伯克利学者：芯片供应链高度集中，硬件级暂停前沿 AI 可行且可持续 — wfithian · 2026-10-16