0.6B 模型媲美 32B 提示:PAW 把 LLM 编译成可离线运行的小程序
yuntiandeng · x · 2026-09-18
Hugging Face 团队 Yuntian Deng 等人发布论文《Program-as-Weights: A Programming Paradigm for Fuzzy Functions》,提出「模糊函数编程」范式:把日志告警、JSON 修复、意图排序等难以用规则写死的任务,从自然语言描述编译成可在本地执行的小型神经程序。
- 编译器为 4B 模型,在自建并开源的 1000 万样本数据集 FuzzyBench 上训练,产出参数高效适配器,挂载到冻结的轻量解释器上。
- 一个 0.6B 的 Qwen3 解释器执行 PAW 程序,效果持平直接提示 Qwen3-32B,推理内存仅约 1/50,在 MacBook M3 上跑 30 tokens/s。
- 核心思路转变:基础模型从「逐次解题」变成「造工具」——只在定义函数时调用一次,之后每次调用都便宜、可离线、可复现。
- 论文、代码、模型权重全部公开,并提供托管推理(远程约 150ms),也可选本地推理以控制数据去向。
所属事件:ProgramAsWeights：自然语言可编译为离线微型神经程序(2 条相关)→
「模型」频道最新
- xAI 发布 Grok Voice Transcribe 2.0，32 款流式模型中准确率居首 — SpaceXAI · 2026-09-19
- 仅凭录屏参考，GPT-6 Astra 两轮迭代做出火焰喷射器 demo — techartist_ · 2026-09-19
- Databricks：企业工程师转向开源模型，20% 流量迁移即大省成本 — Yuchenj_UW · 2026-09-19
- 开发者实测:Jev 又快又便宜,批量打标签任务首选 — ivan_bezdomny · 2026-09-19
- ChatGPT Pro 20 倍套餐恢复发售,此前因算力紧张暂停 — mark_k · 2026-09-19
- 安全研究员用 Claude 72小时内攻破 OpenAI 内部系统,Opus 5 绕过常见防线 — The Decoder · 2026-09-19