DeepSeek-V4-Flash 避坑：对话中途插入 system 消息会破坏缓存
CharlesStross · reddit · 2026-08-02
开发者 Charles Stross 分享了一个关于 DeepSeek-V4-Flash 模型使用的重要避坑指南：在对话中途插入 system 角色的消息会导致前缀缓存失效，从而大幅降低响应速度并增加 API 成本。
原因分析：DeepSeek 官方的聊天模板格式不支持在对话中途插入系统消息。如果强行在对话中间或末尾添加 system 消息，会破坏原本的上下文结构，导致前缀缓存被“烧毁”。
解决方案：应使用 latestreminder 这一角色来替代传统模板中 system 的用法。这是 DeepSeek 在训练时专门适配的角色，能够正常通过 llama.cpp 等推理引擎传递，从而保持缓存的命中率。
「模型」频道最新
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- 网友实测：Opus 5.5 生成竖屏视频完成度惊人 — FinanceYF5 · 2026-10-16
- 开发者爆料：Astra 6.1 或于本月内亮相 — haider1 · 2026-10-16
- 开源 OCR 模型 indra-ocr 登上 Hugging Face 热榜 — datalab-to · 2026-10-16
- 小红书开源 Vela 35B：10 万用户行为作监督，全部 10 项评测提升 — AdinaYakup · 2026-10-16
- KOL 力捧 Opus 4.5:目前没有比它更强的模型 — kimmonismus · 2026-10-16