开发者自建推理引擎跑 DeepSeek V4.1 Flash,默认 512K 上下文

开发者 gnukeith 公开自建推理服务的细节:系统硬预留 3GB 内存防止过载崩溃,DeepSeek V4.1 Flash 默认 512K 上下文、最大可调至 1M,KV Cache 按需分配。由于引擎只服务自己的使用场景,他只在切换模型或需要时才更新,尽量保持精简,不为极端小众场景增加负担。

2026-11-08 ~ 2026-11-08 · 2 条相关