仅 8GB 内存跑 2.78 万亿参数模型，纯 C99 引擎开源
dr_cintas · x · 2026-08-07
开发者推出了一款名为 kimi-k3-in-c 的纯 C99 极简推理引擎，仅需 176KB 大小。该引擎支持在只有 8.24GB 内存和 CPU 的设备上运行高达 2.78 万亿参数的 Kimi K3 模型。
其核心原理是通过流式传输从磁盘按需读取模型专家参数，而无需全部加载到内存中。项目完全开源，无需 GPU 或 CUDA 支持。
所属事件:纯 C99 极简引擎开源，8GB 内存跑通万亿参数模型(2 条相关)→
「Infra」频道最新
- MiniMax 模型 2 倍加速真相：系新版 Python 库引入 convrot 支持 — lmpdev · 2026-08-07
- 马斯克：Terafab AI工厂一期将创造超3000个岗位 — elonmusk · 2026-08-07
- 传 Meta 自建搜索引擎，大规模爬取全网以摆脱对谷歌依赖 — churchkey · 2026-08-07
- SanDisk财报亮眼却跌价，AI推理推高存储需求 — ryanshrout · 2026-08-07
- Databricks CEO：五年后 AI 智能体流量将是人类的千倍 — threepointone · 2026-08-07
- Olares：开源个人云操作系统，一键本地部署大模型 — tom_doerr · 2026-08-07