0.6B 模型媲美 32B 提示:PAW 把 LLM 编译成可离线运行的小程序
yuntiandeng · x · 2026-09-18
Hugging Face 团队 Yuntian Deng 等人发布论文《Program-as-Weights: A Programming Paradigm for Fuzzy Functions》,提出「模糊函数编程」范式:把日志告警、JSON 修复、意图排序等难以用规则写死的任务,从自然语言描述编译成可在本地执行的小型神经程序。
- 编译器为 4B 模型,在自建并开源的 1000 万样本数据集 FuzzyBench 上训练,产出参数高效适配器,挂载到冻结的轻量解释器上。
- 一个 0.6B 的 Qwen3 解释器执行 PAW 程序,效果持平直接提示 Qwen3-32B,推理内存仅约 1/50,在 MacBook M3 上跑 30 tokens/s。
- 核心思路转变:基础模型从「逐次解题」变成「造工具」——只在定义函数时调用一次,之后每次调用都便宜、可离线、可复现。
- 论文、代码、模型权重全部公开,并提供托管推理(远程约 150ms),也可选本地推理以控制数据去向。
所属事件:滑铁卢开源 ProgramAsWeights：英文描述一键编译成本地神经程序(10 条相关)→
「模型」频道最新
- Mistral Large 4 实测：133 个 agent 挖出并修复 Django CVE 漏洞 — MistralAI · 2026-11-04
- 谷歌联合 Mercor 发布工程基准 PLE,85 项任务全部前沿模型低于 50% — teortaxesTex · 2026-11-04
- ValsAI 实测:四款前沿模型低推理档仍保留 80% 性能且成本减半 — AccBalanced · 2026-11-04
- AI 日报：腾讯开源 Hy4 支持computer use，Siri AI 向全部开发者开放 — testingcatalog · 2026-11-04
- DiffusionGemma 玩出新花样：文本扩散模型加速 computer use 并保隐私 — qberthet · 2026-11-04
- 马斯克证实 Grok Bot 成本难以为继，Hermes 一键迁移抢用户 — Teknium · 2026-11-04