DeepSeek 新技术报告解读:KV 仅 890 字节/token,为推理而生
nrehiew_ · x · 2026-09-11
研究员 nrehiew 点评 DeepSeek 最新技术报告,认为其比 v4 的 HSA+CSA 组合更干净。要点:
- 为推理而设计:架构明显以推理优先,因 RL 模糊了训练与推理的边界
- KV 压缩惊人:在此架构下达到基准成绩仅需 890 字节/token 的 KV 大小
- 推理-性能曲线非线性:作者对推理性能图不完全线性感到疑惑,怀疑类似 FrontierCode 那样存在代码质量惩罚;agent swarm 图则更线性
- Agent 团队模式:报告称用 RL 显式训练 agent team mode,奖励函数结合任务表现与协作指标
- 判断:鉴于 OpenAI、Anthropic 有自研推理芯片,它们大概率不会做这种「架构拼接怪」式的极端设计
所属事件:DeepSeek V4.1 Flash 技术报告流出:死磕 KV cache 压缩(44 条相关)→
「模型」频道最新
- 前 Google 研究员团队发布 Fern 0.1:专供审计数据、调试训练的模型 — bneyshabur · 2026-10-26
- Fern 0.1 智能体基准首秀:SWE-Bench Verified 73.4,与前沿模型仍有差距 — bneyshabur · 2026-10-26
- Fern 团队提出「上下文即智能」:预测精度随上下文增至 1000 万 token 持续提升 — bneyshabur · 2026-10-26
- Mirendil 发布首个自研预训练模型 Fern,上下文最长 1000 万 token — bneyshabur · 2026-10-26
- 网友发现 Claude 疑似上线专用翻译界面 — BLCNYY · 2026-10-26
- 用户实测 GrokBot:订机票、网购全被拦,几乎办不成事 — lucasmeijer · 2026-10-26