开发者自建推理引擎跑 DeepSeek V4.1 Flash,默认 512K 上下文
开发者 gnukeith 公开自建推理服务的细节:系统硬预留 3GB 内存防止过载崩溃,DeepSeek V4.1 Flash 默认 512K 上下文、最大可调至 1M,KV Cache 按需分配。由于引擎只服务自己的使用场景,他只在切换模型或需要时才更新,尽量保持精简,不为极端小众场景增加负担。
2026-11-08 ~ 2026-11-08 · 2 条相关
- 网友自建推理引擎跑 DeepSeek V4.1 Flash:默认 512K 上下文、KV Cache 按需分配 — gnukeith · 2026-11-08
- DeepSeek V4.1 Flash 默认 512K 上下文,可调 1M,KV Cache 按需分配 — gnukeith · 2026-11-08