滑铁卢开源 ProgramAsWeights:英文描述编译成本地可跑神经程序
yuntiandeng · reddit · 2026-09-20
滑铁卢大学团队开源研究项目 ProgramAsWeights(PAW):用英文描述一个文本函数,编译成可复用的「神经程序」,下载后在本地(甚至 CPU)运行,无需外部 API。核心思想是把「理解任务」与「重复执行」分离:由大模型充当编译器,生成让小模型执行任务的权重。
工作方式
- 标准编译器用微调后的 Qwen3-4B 为冻结的 Qwen3-0.6B「解释器」生成 LoRA 适配器;神经程序 = LoRA 适配器 + 伪程序(清理后的任务描述+示例)
- 编译器用 (任务描述, 输入, 输出) 三元组训练,梯度穿过冻结解释器回流到编译器,几秒即可编译出新函数
- 同一个冻结 0.6B 基座,加载不同程序即可胜任不同任务
结果
- 构建了合成数据集 FuzzyBench(按任务描述切分训练/测试)
- 0.6B 解释器达到 73.4% 精确匹配,超过直接提示 Qwen3-32B 的 68.7%
- 后续工作 Compile by Training 将生成的 LoRA 作为初始化继续训练以进一步提升精度
论文与数据集均已公开。
所属事件:滑铁卢开源 ProgramAsWeights：英文描述编译成本地 CPU 可跑的神经程序(10 条相关)→
「研究」频道最新
- 数学家称借助 LLM 证明 Catalan 常数是无理数,百年难题告破 — burny_tech · 2026-09-20
- 大脑仅 20 瓦,类脑计算能否让 AI 摆脱耗电困局? — burny_tech · 2026-09-20
- AI 数学证明之争,学者推荐《跨代数学证明》文集 — RexDouglass · 2026-09-20
- 四个 LLM 打《毁灭战士》：Jev 击杀 5.63 领跑，实测延迟差 15 倍 — shniydder · 2026-09-20
- Odyssey-3:数十小时示教数据让单一世界模型适配多种机械臂 — ChongZzZhang · 2026-09-20
- HydroGym 登 Nature 封面，为流体强化学习补上 ImageNet 时刻 — jiqizhixin · 2026-09-20