微软开源 BitNet:三值权重让 100B 模型单 CPU 推理

微软研究院开源 BitNet 推理框架,采用 1.58-bit 三值权重(-1/0/+1)替代传统 16/32-bit 浮点,以纯整数运算运行大模型,可使 100B 参数模型在单颗 CPU 上推理。官方仓库采用 MIT 协议,目前已有 40.4K stars、3.7K forks,近期团队还开源了 1-bit 嵌入模型与 CPU 语音识别引擎,持续扩展 1-bit 生态。

2026-10-10 ~ 2026-10-10 · 2 条相关