Ripple-65B 黑客松:自量化让 60GB 模型瘦身近半可本地跑

RicursiveAI 举办首届围绕 Ripple-65B Preview 的黑客松,参赛者产出多项亮眼成果。其中一个实验提出量化的本质是「搜索问题」,即决定哪些层量化、哪些层保留,让模型自己量化自己,将原本约 60GB 的模型压缩到 30.3GB 且质量几乎无损,可在本地 serving 运行。还有团队用 Ripple 配合 open evolve 框架搭建了项目。作者认为本地编码 agent 的关键在于模型能本地部署。

2026-11-17 ~ 2026-11-17 · 2 条相关