滑铁卢开源 ProgramAsWeights:英文描述编译成本地可跑神经程序
yuntiandeng · reddit · 2026-09-20
滑铁卢大学团队开源研究项目 ProgramAsWeights(PAW):用英文描述一个文本函数,编译成可复用的「神经程序」,下载后在本地(甚至 CPU)运行,无需外部 API。核心思想是把「理解任务」与「重复执行」分离:由大模型充当编译器,生成让小模型执行任务的权重。
工作方式
- 标准编译器用微调后的 Qwen3-4B 为冻结的 Qwen3-0.6B「解释器」生成 LoRA 适配器;神经程序 = LoRA 适配器 + 伪程序(清理后的任务描述+示例)
- 编译器用 (任务描述, 输入, 输出) 三元组训练,梯度穿过冻结解释器回流到编译器,几秒即可编译出新函数
- 同一个冻结 0.6B 基座,加载不同程序即可胜任不同任务
结果
- 构建了合成数据集 FuzzyBench(按任务描述切分训练/测试)
- 0.6B 解释器达到 73.4% 精确匹配,超过直接提示 Qwen3-32B 的 68.7%
- 后续工作 Compile by Training 将生成的 LoRA 作为初始化继续训练以进一步提升精度
论文与数据集均已公开。
所属事件:滑铁卢开源 ProgramAsWeights:英文描述一键编译成本地神经程序(10 条相关)→
「研究」频道最新
- KAIST 提出 FactEmbed:分解式潜在向量改进组合图像检索 — kaist-ai · 2026-11-04
- Intology Locus 自动设计分子模型,击败 GPT-6 与 Claude 智能体 — rohanpaul_ai · 2026-11-04
- 谷歌联合 Mercor 发布工程基准 PLE,85 项任务全部前沿模型低于 50% — teortaxesTex · 2026-11-04
- 剑桥 van der Schaar 实验室开放 2027 年入学博士申请 — MihaelaVDS · 2026-11-04
- 腾讯 Hyra 2.0 蛋白序列生成速度达 ProteinMPNN 的 57 倍 — YvesMulkers · 2026-11-04
- 学者控诉顶会 AI 论文乱象:现场用 ChatGPT 答提问、一稿双投还造假数据 — Vegetable-Formal-753 · 2026-11-04