微软开源 bitnet.cpp:单 CPU 跑 100B 参数 1-bit 模型,能耗降 82%

dr_cintas · x · 2026-11-18

微软开源了 1-bit LLM 官方推理框架 bitnet.cpp(GitHub 已获 41.6k star,MIT 协议),宣称可在无 GPU 的单颗 CPU 上运行 100B 参数的 BitNet 模型。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →