开发者尝试 1bit 模型 LoRA 与 RL 环境量化
cephaloform · x · 2026-07-21
作者在尝试一套包含多阶段蒸馏信号的代码流程,但不确定这是否足够,甚至考虑在 RL 环境运行时进行量化。
他还提到想把 1-bit 模型做 LoRA 适配,并让自己的代码直接支持这类流程;核心诉求是尽量不用等 Prism 先把相关功能做出来。
所属事件:开发者探索 1bit 模型的多阶段蒸馏与 LoRA 适配(3 条相关)→
「编程与Agent」频道最新
- 受 OpenAI 万机群启发,开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid:只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11
- Alex Townsend 汇编 200 个数值线性代数开放问题,供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线:性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11