曝 DeepSeek V4.1 Flash 配 196B 参数查询表 Engram,查表代替计算
cephaloform · x · 2026-09-11
据 plotarmordev 的消息(未证实),DeepSeek V4.1 Flash 配备约 200GB 的查找表,官方称之为 Engram:在 552B 主模型旁放置 196B 参数的存储条目。
工作原理:模型不把所有东西都算出来,而是把最后几个 token 转换成地址,像查索引一样拉取匹配的行。每个 token 只读取少量行,因此这张表不需要昂贵的 GPU 显存。转发者感叹,相比 llama「transformer++」多年来的渐进式改动,这类设计简直像外星科技。
所属事件:爆料称 DeepSeek V4.1 Flash 实为 718B 稀疏模型(2 条相关)→
「模型」频道最新
- 用户实测 GrokBot:订机票、网购全被拦,几乎办不成事 — lucasmeijer · 2026-10-26
- 售卖机基准新观察:Sol 5.6 被指最激进、最常违约 — xuanalogue · 2026-10-26
- 爆料称 Fable 5.5 每周将发,博主泼冷水:本月无前沿新模型 — patience_cave · 2026-10-26
- 实测 abliterated 去审查模型翻车:模型反而关心起我的心理健康 — ryunuck · 2026-10-26
- OpenAI Decisions API 升级:单次可处理 400 个问题并新增语音与图像能力 — OpenAIDevs · 2026-10-26
- 中国首个前沿AI安全独立评测实验室「方寸跃迁」成立并首发DeepSeek评测 — JacquesThibs · 2026-10-26