仅用8GB内存跑通2.78万亿参数模型，纯C99引擎开源
dr_cintas · x · 2026-08-07
开发者 FareedKhan 创建了一个名为 kimi-k3-in-c 的开源项目，成功在普通的 CPU 上运行了高达 2.78 万亿参数的模型，而物理内存仅需 8.24 GB。
- 极简架构：该项目是一个仅 176KB 的纯 C99 引擎，完全不依赖 GPU、CUDA 或任何繁重的外部框架。
- 内存优化：其核心机制是按需从磁盘流式读取模型的专家层（experts），而不是将整个模型加载到内存中，从而大幅降低了硬件门槛。
所属事件:纯 C99 极简引擎开源，8GB 内存跑通万亿参数模型(2 条相关)→
「Infra」频道最新
- MiniMax 模型 2 倍加速真相：系新版 Python 库引入 convrot 支持 — lmpdev · 2026-08-07
- 马斯克：Terafab AI工厂一期将创造超3000个岗位 — elonmusk · 2026-08-07
- 传 Meta 自建搜索引擎，大规模爬取全网以摆脱对谷歌依赖 — churchkey · 2026-08-07
- SanDisk财报亮眼却跌价，AI推理推高存储需求 — ryanshrout · 2026-08-07
- Databricks CEO：五年后 AI 智能体流量将是人类的千倍 — threepointone · 2026-08-07
- 仅 8GB 内存跑 2.78 万亿参数模型，纯 C99 引擎开源 — dr_cintas · 2026-08-07