64GB 内存无 GPU 跑 284B DeepSeek,llama-modchip 项目上 HN 热榜
joshcsimmons · hn · 2026-11-08
GitHub 项目 llama-modchip 登上 Hacker News,宣称可在仅 64GB 内存的机器上、无需 GPU 运行 284B 参数的 DeepSeek 模型。该项目由 synchopate 发布,主打极致压低大模型本地部署的硬件门槛,引发社区对内存带宽、量化与推理可行性方案的讨论。对无高端显卡又想本地跑大模型的用户是一个值得关注的方案。
「Infra」频道最新
- 传英伟达500亿美元AI融资工具遭施压，被要求提高25%残值担保 — dinabass · 2026-11-13
- AI工程师GPU底层教程：从token流转、显存计算到量化与多卡切分 — kmeanskaran · 2026-11-13
- 台积电证实员工信息遭泄露：经云服务商外流，未发现自家系统被入侵 — TinfoilTricorn · 2026-11-13
- CoreWeave Q3 营收 36.6 亿美元涨 168%,签约 Wayve 训练 AI Driver — thursdai_pod · 2026-11-13
- 67B 图像模型跑进 16GB MacBook Air:MLX 移植峰值内存降至约 2.5GB — FlimsyBrief4232 · 2026-11-13
- 开发者称用 GPU 指纹取证发现四大中国实验室在用 Blackwell 训练 — terryyuezhuo · 2026-11-13