DeepSeek 报告被赞:KV cache 小得离谱,infra 设计藏满细节
stochasticchasm · x · 2026-09-23
stochasticchasm 读完 DeepSeek 新报告后的总结:报告里塞满了 impressives 的基础设施设计,很多亮点只用几句话带过。最突出的是 KV cache 尺寸小到"离谱";相比以往,这次系统有更多活动部件,要把每个细节都钉稳非常困难。他认为这是非常值得反复重读的技术报告。
「Infra」频道最新
- Google Colab 并入 Google AI 订阅,可享更快 GPU 与后台执行 — DynamicWebPaige · 2026-09-23
- NEAR AI 机密推理上线 Bittensor,GM 一个 API 接数十模型 — markjeffrey · 2026-09-23
- 推理提速不只靠模型：拆解 6 项 LLM 服务端关键优化技术 — techNmak · 2026-09-23
- SanDisk 股价大涨 7.56%，华尔街看好 AI 内存需求 — Polymarket · 2026-09-23
- SGLang v0.5.20 发布：Intel XPU 入列，解码最高提速 52% — hsu_byron · 2026-09-23
- 93% 新项目来自 AI,Netlify 为数百万 agent 站点自建 Git 存储 — jasonkneen · 2026-09-23