Program-as-Weights:0.6B 模型跑赢 32B 直接提示,内存仅 1/50

yuntiandeng · x · 2026-09-16

Yuntian Deng 团队发布开源论文《Program-as-Weights: A Programming Paradigm for Fuzzy Functions》。

• 核心思路：许多日常编程任务（日志告警、修复畸形 JSON、按意图排序搜索结果）难以用规则实现，通常外包给 LLM API，牺牲了本地性、可复现性与成本。论文提出「模糊函数编程」：把自然语言规格编译成可本地执行的紧凑神经工件。
• 实现：一个在自建 FuzzyBench（1000 万样本数据集，已发布）上训练的 4B 编译器，为冻结的轻量解释器生成参数高效适配器（PAW 程序）。
• 结果：0.6B 的 Qwen3 解释器执行 PAW 程序，性能匹敌直接提示 Qwen3-32B，推理内存约为其 1/50，在 MacBook M3 上跑 30 tokens/s。
• 范式转变：基础模型从「逐次解题者」变成「工具构建者」——每个函数定义只调用一次大模型，生成小型可复用工件，后续调用便宜且可离线。

论文与代码均已开源。

原文链接 →

「Infra」频道最新

• SentencePiece Lite 发布:50KB 二进制,tokenization 快 20-30 倍 — heiga_zen · 2026-09-16
• 华为内部万字备忘录泄露：押注昇腾950替代英伟达，不做基础模型 — pstAsiatech · 2026-09-16
• Qwen 27B 与 DeepSeek v4 Flash 同机异构运行,展示 GPU+统一内存方案 — samsja19 · 2026-09-16
• JPMorgan 预测 2028 年 GPU/ASIC 出货超 2500 万，ASIC 主导增长 — bookwormengr · 2026-09-16
• iamtrask:终局不是单个 AGI,而是人人运行小型 LLM 的信任网络 — iamtrask · 2026-09-16
• Coding Agent 挤爆显存的 KV Cache，英特尔押注 CPU 分层卸载与硬件压缩 — 量子位 · 2026-09-16

更多「Infra」频道 AI 资讯 →