纯 C 跑 2.78 万亿参数 Kimi K3：单 CPU、8GB 内存、零框架
tom_doerr · x · 2026-09-22
GitHub 开源项目 kimi-k3-in-c 展示在无 BLAS、无框架、无 GPU 的环境下，用便携 C99 代码在单个 CPU、8.24 GB 内存上运行 2.78 万亿参数的 Kimi K3 推理。项目已获 8.1k star，属于极端的本地部署/内存效率工程实现，具体技术细节见仓库。
「Infra」频道最新
- 民调：63%美国人反对社区建数据中心，两党罕见一致 — AlexTensor · 2026-09-22
- Toby Ord 估算：AI解千禧年大奖问题，烧了约2000万美元 — tobyordoxford · 2026-09-22
- 接入新 LLM 供应商前要检查哪些项？工程师团队的经验清单 — Rama_Surasani_ · 2026-09-22
- 开发者逆向复现 DLSS5 神经渲染,Vulkan 实现 75 层输出逐字节一致 — bdsqlsz · 2026-09-22
- M5 Ultra 跑 Qwen 达 3740 tok/s prefill,一天内翻倍震惊业界 — EAccelerate_42 · 2026-09-22
- LinkedIn 开源 GPU 预排序系统：图特征融合实现 50 倍模型扩容 — _reachsumit · 2026-09-22