Qwen 模型 TurboQuant KV Cache 导致多轮对话失效
QuixiAI · x · 2026-08-29
用户在使用 Qwen3.8-Flash-Next 模型时遇到多轮对话记忆丢失的问题,经验证发现是由 TurboQuant 量化的 KV Cache 引起的。将 KV Cache 从 TurboQuant 改回 BF16 格式后,问题得到解决。
「模型」频道最新
- 阶跃星辰开源 Step 5 Preview:600B 参数、27B 激活、1M 上下文 — Dr_Singularity · 2026-10-15
- 阶跃星辰开源 Step 5 Preview:600B 参数 MoE,1M 上下文冲上 OpenRouter 第二 — Dr_Singularity · 2026-10-15
- Google 官方展示 Gemini 4 Argon 攻坚内部最难工程问题 — CurieuxExplorer · 2026-10-15
- Perplexity 新 embedding 模型:大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- 797GB n-gram 放进 CPU 内存,小模型硬扛多 57% 算力 — PangWeiKoh · 2026-10-15
- 爆料称 Kimi 旗舰 x4 已完成预训练,K3.1 开始内部测试 — lyraxana · 2026-10-15