三星实验室开源 LittleBit:LLM 权重压至 0.1 比特仍可用
MikePFrank · x · 2026-11-23
三星实验室在 GitHub 开源了 LittleBit 项目,宣称将大语言模型权重压缩到每权重 0.1 比特(sub-1-bit)级别。技术路线:将每个稠密权重矩阵分解为低秩隐因子,对因子做二值化,再恢复幅值信息。项目包含两篇论文的官方实现:LittleBit(NeurIPS 2025)提出基于隐式分解的超低位宽量化方法,LittleBit-2(ICML 2026)进一步通过隐空间几何对齐最大化谱能量增益。
「Infra」频道最新
- 作者用两个 Agent 实测 OpenRouter 路由:最便宜的供应商最不可靠 — MikePFrank · 2026-11-23
- 开发者直言:99% 的人不该自托管本地模型 — gnukeith · 2026-11-23
- 科技公司吹嘘数据中心创造就业,博主批其粉饰真实社区影响 — feregri_no · 2026-11-23
- 字节 Seed 与清华发布 RSIBench-Infra:Agent 可优化生产级训练推理设施 — geoffwolfe · 2026-11-23
- 两台 Mac Studio 跑 320B 模型:单用户 137 tok/s,32 人并发零报错 — AIFlow_ML · 2026-11-23
- 产品高管晒本地 AI 工作站:M5 Ultra Mac Studio + 全本地模型栈 — davidhoang · 2026-11-23