微软开源BitNet推理框架:单CPU跑千亿参数模型

微软开源 1-bit LLM 官方推理框架 bitnet.cpp,MIT 协议下 GitHub 已获 41.6k star。项目宣称无需 GPU,单颗 x86 CPU 即可运行 1000 亿参数 1-bit 模型,速度最高提升 6 倍,能耗降低 82%。

2026-11-18 ~ 2026-11-18 · 2 条相关