DeepSeek 设计哲学:算力易扩展、显存难扩展
pstAsiatech · x · 2026-10-25
DeepInfer 节目对 DeepSeek 的动机做了深入分析。核心观点:DeepSeek 从第一天起就明确一条基本原则——计算容量容易横向扩展,而内存/显存带宽难以扩展;因此其模型架构与基础设施的整个迭代都围绕这一逻辑展开(如 MLA 压缩 KV cache 以省显存)。这解释了 DeepSeek 为何持续押注推理成本效率。
「Infra」频道最新
- kalomaze 自嘲没 GPU 可用,只能跑 toy baseline 过瘾 — yacineMTB · 2026-10-25
- 30GB 的本地语音模型算赢吗?作者质疑零延迟价值 — NickPassig · 2026-10-25
- Blackstone CEO:2015 年马云一席话让公司成全球最大数据中心持有者 — pstAsiatech · 2026-10-25
- 19 个延迟优化模式:AI 应用非模型耗时全路径拆解 — bibryam · 2026-10-25
- TensorFold 实验项目「Living Weights」:让本地模型边聊边把新知识写进权重 — GabGarrett · 2026-10-25
- Cloudflare WAF 已不再单卖:340 Tbps 平台化捆绑成常态 — shashib · 2026-10-25