DeepSeek V4.1 Flash 将 KV cache 压到每 token 890 字节
Prompt Engineering · youtube · 2026-09-14
「Prompt Engineering」频道评测 DeepSeek V4.1 Flash,称其可能是目前最好的本地视觉模型。核心卖点是长上下文效率:通过架构改动将 KV-cache 显存压到每 token 仅 890 字节。
视频覆盖:架构与效率设计、harness 与定价设置、缓存与速度收益、Three.js 可视化 demo、AutoML 训练测试,以及视觉基准跑分。作者认为这种内存效率对长时运行 agent 和大型代码库意义重大,但也指出其在前沿系统面前仍有短板。
模型已在 Hugging Face 开源(deepseek-ai/DeepSeek-V4.1-Flash),官方博客同步发布。
所属事件:DeepSeek V4.1-Flash 发布:KV cache 压至每 token 890 字节(6 条相关)→
「Infra」频道最新
- AI 烧钱加深自由现金流缺口,微软靠发债 250 亿美元守住正值 — Kr00ney · 2026-10-31
- Google 太空数据中心首次跑通:轨道 TPU 完成 Gemma 推理并回传 — ns123abc · 2026-10-31
- Google Cloud 花费上限正式上线:新增 API、实时成本报告与每月自动重置 — rseroter · 2026-10-31
- Swift 1.5 Flash Next 去审查逆向版新增多种量化,IQ4 精度换体积 — jjusko20 · 2026-10-31
- ClickHouse 曝未认证远程代码执行漏洞 CVE-2026-116366 — Hacubu · 2026-10-31
- 批量合并提问只读一遍文档,可大幅降 LLM 分类成本与延迟 — petrusenko_max · 2026-10-31