SemiAnalysis 拆解 DeepSeek V4.1 Flash：Engram 查表换 1.6 倍性价比
teortaxesTex · x · 2026-09-26
被引用的帖文与 SemiAnalysis 数据称，DeepSeek V4.1 Flash 的 Engram 记忆层把常见词组变成查找表，从 GPU 中移走「背课文」式计算（未经官方证实，作者也在质疑其真实增益）：
- 每层仅激活约 80 亿（输入）/160 亿（输出）参数，其余约 1960 亿为查找表；浅层记物体、深层记关系
- 表只依赖 token ID，可放入主机内存；B300 上 TP4 降到 TP2，性价比最高提升约 1.6 倍
- 4 张 GB300 把表卸载到主机后，KV 容量还能再增约 36%
- B200 上内存卸载优于 SSD：同等体验下每美元总 token 约 1.21 亿 vs 5200 万
- 双机 GB300 预填充约 5.6 万 token/秒，单用户解码约 253 token/秒
结论：便宜来自少算、少占 HBM；强来自该查就查、该算就算——显存带宽比容量更值钱。评论者则提醒：便宜不等于建模能力有增益，大家是否只是「信任 DeepSeek」值得追问。
「Infra」频道最新
- 百度发布 ERNIE Evolve 自动研究系统,NanoGPT Speedrun 超公开最好成绩 — xiaohu · 2026-11-11
- 百度首次用 RSI 自动优化文心推理,昆仑芯出字速度提升 6.24 倍 — xiaohu · 2026-11-11
- Nvidia 供应承诺单季从 1190 亿飙至 2790 亿美元，锁死 2027-28 显存 — tengyanAI · 2026-11-11
- 独立研究者新优化器：24GB 显存可训 27B 模型，权重仅需 1.6bit — oguzeldereli · 2026-11-11
- 英伟达扩大与 Meta 的 Muse 合作,将向 Meta 投资 30 亿美元 — armand_ruiz · 2026-11-11
- 网友算账质疑 Anthropic:Opus 5.5 十亿美元成本大头不在算力 — teortaxesTex · 2026-11-11