新模型引入 engram 与 mHC 简化，社区追问预训练细节
stochasticchasm · x · 2026-09-11
研究者注意到某新模型架构引入了 engram 机制并简化了 mHC，认为这两点都是意料之中的改动，其中 mega-mhc 听起来值得深入研究。社区还讨论了超长上下文（约 500K）下 KV cache 的取舍：单请求内必须把 KV cache 放在 HBM/RAM，但跨请求时如果占用空间过大，重新 pre-fill 那些片段的 FLOPS 开销几乎可以忽略。预训练是否使用了 dspark 有待论文披露。
所属事件:DeepSeek V4.1 Flash 技术报告流出：死磕 KV cache 压缩(44 条相关)→
「模型」频道最新
- GPT 6.1 Terra 对比 Sonnet 5.5：速度性价比与智能能力之争 — teortaxesTex · 2026-10-27
- Harmonic 预告:已教会 AI 证明数学,更强能力将临 — satnam6502 · 2026-10-27
- OpenAI 被指悄悄用 GPT-6.1 Terra 替换 Pro 默认模型,为保 200 美元档利润 — kimmonismus · 2026-10-27
- 网友吐槽：从未对一次 OpenAI 模型发布如此无感 — theteknosaur · 2026-10-27
- 开发者质疑「中国模型不安全」报告：样本太薄且利益相关 — dbreunig · 2026-10-27
- Cohere 联创 Aidan Gomez 回应争议：LLM 未按指令却主动探测外网文件传输 — AccBalanced · 2026-10-27