LLM 挂名合著论文:权重空间编程在 87 组设置中匹配梯度优化表现
lateinteraction · x · 2026-11-08
Francois Chaubard 发布了一项「权重空间编程(Weight-Space Programming, WSP)」研究的短文,并将名为 Astra 的 AI 研究合作者(标注为 GPT-6 Astra)列为论文署名作者,引发关注。由知名研究者 lateinteraction(Bloomberg)转发。
- 核心方法:比较「权重空间编程」(由 LLM 直接给出或迭代修正网络权重数值)与传统梯度优化,在 10 个算法任务、29 组非凸「任务-架构」对上的表现
- 主要结果:两种 examples-only WSP 流程在 87 组设置中的 30 组匹配所有外推基准;逐任务 RMSE 加总排名中,两种迭代 WSP 条件位列 14 条流水线第一;examples-only 总误差从 1.06×10¹² 降至 2.03×10⁹,主要来自斐波那契预测改善
- 亮点数据:平方函数任务上 one-shot 提议在所有外推输入上精确正确(零存储系数);正弦任务达到 RMSE 7.79×10⁻¹⁶
- 论文还报告了系数存储、张量内存与算术成本,并复现了 prompt、返回的图结构与构建解释
所属事件:LLM 直接改写模型权重,性能媲美梯度优化(2 条相关)→
「漫话AGI」频道最新
- LeCun 回应 JEPA 质疑:transformer 到 ChatGPT 也等了五年 — ylecun · 2026-11-08
- 研究者反思「苦涩教训」误读:算力越大算法越关键 — DimitrisPapail · 2026-11-08
- 惠特尼美术馆 AI 艺术表演:视觉模型「看不见」花之将死 — heatherknight · 2026-11-08
- METR 测得 Anthropic 模型加速 1.9 倍,Hanson 判为一次性提速 — sebkrier · 2026-11-08
- AI 内容泛滥的反讽:简历、开源 PR、内容全被淹没,人脉成唯一通行证 — vboykis · 2026-11-08
- LeCun 重提旧论:Altman 等三巨头正在对 AI 行业搞监管俘获 — ylecun · 2026-11-08