ProgramAsWeights:用英语描述AI函数,编译成权重离线跑
yuntiandeng · x · 2026-09-19
研究者 yuntiandeng 介绍其 ProgramAsWeights 项目:你可以用英语描述一个 AI 函数,「编译」一次,然后在断网状态下运行——像调用 Python 函数一样在本地 CPU 上调用小型神经程序。
- 思路是用海量云端 GPU 做「编译」,把所需功能固化进小模型权重,之后完全本地离线执行。
- 代码与模型已开源;有网友指出这适合「云端编译 + 4090 本地离线跑」的用法。
所属事件:ProgramAsWeights：英文描述 AI 函数，编译成权重离线跑(3 条相关)→
「Infra」频道最新
- AI Infra 峰会访谈：Penguin 与 Astera Labs 押注 CXL 内存扩展方案 — BenBajarin · 2026-09-19
- 美国芯片业闹人才荒：仅 3% 工科生选芯片，其余都去做 AI — ns123abc · 2026-09-19
- Jev 可替代本地模型做低延迟应用,开源 RLCD 版本可期 — HankYeomans · 2026-09-19
- Arduino Ventuno Q 实测：Hexagon NPU 跑端侧 VLM 推理 — HowDevelop · 2026-09-19
- GPU 涨价殃及 1080ti,本地模型推理速度实测清单流出 — HankYeomans · 2026-09-19
- Bonsai 2 27B 量化版实测:7GB 内存跑出远超同级 3D 生成质量 — Fun-Meaning-6474 · 2026-09-19