763B 参数模型压缩到 305GB 内存近无损，DeepSeek 论文再被赞
gnukeith · x · 2026-10-29
开发者 gnukeith 盛赞 DeepSeek 论文：借助其量化技术，7630 亿参数的模型可以在约 305GB 内存上以近乎无损的精度运行，称每次重读都能发现新细节。他据此判断 AI 将随时间变得更便宜、更强，而非更贵。
所属事件:开发者盛赞 DeepSeek 工程效率：KV Cache 三年缩小 437 倍(3 条相关)→
「Infra」频道最新
- 上交大 TAO 调度框架:工具感知使 Agent 服务延迟最多降 26.8% — AIOR-Research · 2026-10-29
- Nscale 冲击 300 亿美元估值 IPO，CEO 经验尚浅临危上阵 — bloomberg · 2026-10-29
- 单张 RTX 5080 跑 Qwen3.8 Flash Next：IQ3_S 量化峰值 275 tok/s — yehyakar · 2026-10-29
- 谷歌云 CEO：苹果在最新 TPU 上扩展基础模型预训练 — shayan_ · 2026-10-29
- 一张图看懂 FlashAttention:瓶颈不是计算而是搬运数据 — cneuralnetwork · 2026-10-29
- Particle-1 推理服务上线 OpenRouter,输出 token 省 28-52% — ycombinator · 2026-10-29