开发者讨论 1bit 模型的 LoRA 支持与自定义 kernels
cephaloform · x · 2026-07-21
原帖称作者已经为这类工作准备了一套很强的 kernels，因此对进展很兴奋。
回复里提到想给 1bit 模型做 LoRA，但用 Prism 的方案一时还不明显怎么实现；不过作者表示自己的代码应当可以比较顺畅地支持。这条核心信息是：低比特模型微调与底层 kernel 实现的实际可行性。
所属事件:开发者探索 1bit 模型的多阶段蒸馏与 LoRA 适配(3 条相关)→
「Infra」频道最新
- Anthropic 背 4750 亿美元算力合约,OpenAI 到 2030 年拟投约 7500 亿 — kyliebytes · 2026-10-27
- 首个数据中心噪音系统研究:25 座超大规模机房中 17 座无可信投诉 — AndyMasley · 2026-10-27
- 3 张二手 V100 跑 Qwen 近 400 tokens/秒 — jfinkpottery · 2026-10-27
- RFD4-Proteina 跑在 RTX 3060 上:单次蛋白设计最低约 $0.001 — AllThingsApx · 2026-10-27
- 开发者抱怨 npm 新包上线要等 20 分钟，疑为防 AI 攻击限流 — cocktailpeanut · 2026-10-27
- Nature Physics 论文：可重构折射率实现对多模波传播的任意控制 — MarioKrenn6240 · 2026-10-27