用户反馈 Qwen3.8 长时间使用后输出乱码
trashacct383 · reddit · 2026-08-27
一位用户报告在使用 vLLM 部署 Qwen3.8-27B-FP8 几小时后，模型会开始输出乱码或垃圾内容，必须重启服务才能恢复。用户贴出了详细的配置参数（包括 FlashInfer 后端、xgrammar、MTP 推测采样等），并提到添加重复惩罚略有帮助，但 vLLM 28 版本似乎恶化了问题，询问是否有其他人遇到类似情况。
「Infra」频道最新
- ASML CFO 称美国限制对华 DUV 销售将适得其反 — pstAsiatech · 2026-10-15
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线，端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15