微软 BitNet 1-bit LLM 推理框架开源,星数破 4 万
microsoft · github · 2026-10-12
微软官方开源的 BitNet 是 1-bit 大语言模型(1-bit LLM)的官方推理框架,使用 C++ 编写,目前在 GitHub 上已获得约 40,700+ 星,当日新增约 195 星。该项目提供针对 1-bit 量化模型的推理支持,是低比特 LLM 部署方向的核心开源项目之一。
「Infra」频道最新
- 月租 800 美元租 64 核 256GB 服务器,同时跑 10 个 AI 会话和 30 个子 Agent — TheZachMueller · 2026-10-12
- 微软发布第三代自研 AI 芯片 Maia 300,目标降低对 Nvidia 依赖 — The Verge AI · 2026-10-12
- NuMind 开源 vLLM 插件:让已加载的 LLM 免费输出多模态嵌入 — Gailenstorm · 2026-10-12
- 独立研究者单块 GH200 预训练 21B MoE:MFU 从 21% 提到 50% — Prestigious-Taste-63 · 2026-10-12
- opentel-mcp v0.17 发布:为 MCP 工具加上数据新鲜度检测与凭证脱敏 — Thirumalaiboobathi · 2026-10-12
- HPE 高管称客户对百万美元内算力定价保证「毫无抵触」遭质疑 — DavidLinthicum · 2026-10-12