DeepSeek V4.1 论文藏细节:在 checkpoint 之间复用 KV 缓存,被称「奇怪的模型工厂」
teortaxesTex · x · 2026-09-10
Astra Pro 在深读 DeepSeek V4.1 论文时发现不少有趣细节,其中最引人注意的是 DeepSeek 在不同 checkpoint 之间复用 KV 缓存(KV reuse between checkpoints)。评论者 teortaxesTex 感叹这种做法非常少见,称 DeepSeek 像是在运转一座「非常奇怪的模型工厂」,暗示其训练流程有独特的工程安排。
所属事件:DeepSeek V4.1 被曝回归编解码架构,灵感源自 YoCo(5 条相关)→
「研究」频道最新
- 机器苍蝇实现平稳直飞,还能从阵风中恢复姿态 — moyix · 2026-09-11
- 一个月内解决两个千禧年难题?热议可视化图被重制 — lishali88 · 2026-09-10
- AWS 提出 AEM 指标:按轮次分解定位多轮 Agent 对话的级联错误根因 — AWS ML Blog · 2026-09-10
- NVIDIA 开源 BioNeMo 推理库,曾为 AlphaFold 数据库省下大量算力 — AllThingsApx · 2026-09-10
- Johnson 2016《Perceptual Losses》获 ECCV 时间考验奖 — CSProfKGD · 2026-09-10
- Amazon Science 拆解:机器学习研究 Agent 为何不过拟合 — Aaroth · 2026-09-10