SemiAnalysis 探测 DeepSeek V4.1 Flash Engram 门控,揭示文本模式激活规律
teortaxesTex · x · 2026-09-26
SemiAnalysis 对 DeepSeek V4.1 Flash 的 Engram 门控进行探测,分析模型对不同文本模式的激活规律,结果显示其记忆机制远不止记住名字和事实那么简单。
转发者 teortaxesTex 补充评论称 DeepSeek 表现出色,但「不好笑的是他们可能仍然没有 5 万张 Hopper GPU」,暗示其算力储备远逊于美国头部实验室。
「Infra」频道最新
- 百度发布 ERNIE Evolve 自动研究系统,NanoGPT Speedrun 超公开最好成绩 — xiaohu · 2026-11-11
- 百度首次用 RSI 自动优化文心推理,昆仑芯出字速度提升 6.24 倍 — xiaohu · 2026-11-11
- Nvidia 供应承诺单季从 1190 亿飙至 2790 亿美元,锁死 2027-28 显存 — tengyanAI · 2026-11-11
- 独立研究者新优化器:24GB 显存可训 27B 模型,权重仅需 1.6bit — oguzeldereli · 2026-11-11
- 英伟达扩大与 Meta 的 Muse 合作,将向 Meta 投资 30 亿美元 — armand_ruiz · 2026-11-11
- 网友算账质疑 Anthropic:Opus 5.5 十亿美元成本大头不在算力 — teortaxesTex · 2026-11-11