QLoRA 作者:DDeepSeek 开源推理系统比肩 OpenAI 内部栈
DavidBennett__ · x · 2026-10-21
- QLoRA 作者 Tim Dettmers 评价：DeepSeek 开源的推理系统已与 OpenAI 内部栈同级，甚至优于 Anthropic 当前运行的水平（至少在其用户规模下）。
- 该系统采用 Apache 2.0 许可证，同时支持 NVIDIA Blackwell 和华为昇腾，不绑定单一芯片供应商。
- 此前这种级别的生产推理栈只存在于少数几家头部公司内部，是它们 API 快、毛利高的核心壁垒且从不外示。如今任何初创公司、大学、云厂商都可以下载、阅读并运行它。
- 作者认为这体现了开源权重圈「开放权重」的真正意义：DeepSeek 分发的是原本只有少数实验室掌握的知识，将改变谁能创办 AI 公司的格局。
「Infra」频道最新
- DeepSeek V4.1 Flash 被去审查：拒答率 91.4% 降至 0% — kalyan_kpl · 2026-10-21
- 上交大发布 Specter：量化+多步投机卸载加速单卡 MoE 推理 — Wenfeng Wang · 2026-10-21
- 传 SpaceX 2027 年底部署 13GWh 算力，Grok 机器人数周内商用 — elonmusk · 2026-10-21
- Meta 工程师证实已用 Google TPU 在生产环境跑 AI 推理 — dotey · 2026-10-21
- OmniGraph 开源：给 AI Agent 记忆装上 Git 式分支与合并 — techNmak · 2026-10-21
- 2x5090 本地跑 Qwen3.8 做 agent 编程，vLLM 成唯一不炸缓存的方案 — TooManyPascals · 2026-10-21