用户反馈 Qwen3.8 长时间使用后输出乱码
trashacct383 · reddit · 2026-08-27
一位用户报告在使用 vLLM 部署 Qwen3.8-27B-FP8 几小时后，模型会开始输出乱码或垃圾内容，必须重启服务才能恢复。用户贴出了详细的配置参数（包括 FlashInfer 后端、xgrammar、MTP 推测采样等），并提到添加重复惩罚略有帮助，但 vLLM 28 版本似乎恶化了问题，询问是否有其他人遇到类似情况。
「Infra」频道最新
- Nvidia 预测 2028 财年收入增长 70%，远超分析师预期 — firstadopter · 2026-08-27
- 英伟达NVLink Fusion扩展NVHBM：带宽提升30%，Annapurna首发合作 — nordicinst · 2026-08-27
- NVIDIA 预测明年营收增 70%，达 7000 亿美元 — BenBajarin · 2026-08-27
- NVIDIA 与 AWS 再合作：部署 200 万 GPU 推进智能体 AI — nvidia · 2026-08-27
- Vercel 接入 Gemini 3.5 实时语音转写 — osanseviero · 2026-08-27
- 英伟达 Q3 指引营收 1080 亿美元，不计中国数据中心仍翻倍 — inductionheads · 2026-08-27