微软开源BitNet推理框架:单CPU跑千亿参数模型
微软开源 1-bit LLM 官方推理框架 bitnet.cpp,MIT 协议下 GitHub 已获 41.6k star。项目宣称无需 GPU,单颗 x86 CPU 即可运行 1000 亿参数 1-bit 模型,速度最高提升 6 倍,能耗降低 82%。
2026-11-18 ~ 2026-11-18 · 2 条相关
- 微软开源 bitnet.cpp:单 CPU 跑 100B 参数 1-bit 模型,能耗降 82% — dr_cintas · 2026-11-18
- 微软开源「BitNet」:单颗 CPU 跑 1000 亿参数模型,提速 6 倍 — CurieuxExplorer · 2026-11-18