DeepSeek V4.1 Flash 稀疏 indexer 也是稀疏的,分层候选筛选
nrehiew_ · x · 2026-09-11
nrehiew 补充 DeepSeek V4.1 Flash 的注意力 indexer 设计:indexer 本身也是稀疏的。第一个 full mode indexer 先选出候选,后续层再用这些候选打分,形成分层筛选结构。
所属事件:DeepSeek V4.1 Flash 技术解读:KV cache 压缩架构全拆解(9 条相关)→
「模型」频道最新
- 爆料称 Kimi 曾用 Claude 原始思维链蒸馏,网友讽其山寨 Claude — xuanalogue · 2026-09-11
- 用户切回 GPT-5.6:省用量且体感更快 — CtrlAltDwayne · 2026-09-11
- 开发者观点:好的封装下模型差异很小,Grok 4.6 够用 — gnukeith · 2026-09-11
- DeepSeek-V4.1-Flash 登陆 Ollama:763B MoE、1M 上下文,主打 KV cache 压缩 — ollama · 2026-09-11
- Anthropic 发布最详细威胁情报报告,曝 Claude 遭滥用案例 — typewriters · 2026-09-11
- 多智能体 eval 形态未定,colocated 异步 RL 训练正成趋势 — stochasticchasm · 2026-09-11