wpgit:给 LLM 直接改权重引入版本控制与回归测试的开源框架
bigspin5050 · reddit · 2026-11-05
Reddit 作者发布 Weight-Space Software Engineering(WSSE)框架与 wpgit 工具(论文 + 开源代码),回应 MIT CSAIL「Sparks of Weight-Space Programming」展示的 LLM 无梯度直接编辑权重能力:一次性 demo 可行,但多个 agent/工程师长期叠加权重编辑时会出现静默回归、合并冲突、基模型更新后失效等问题。
核心设计——把权重编辑存为文本 diff:
- 每次编辑是一个人类可审阅的 .weightpatch.json 文件,用 16 位 SHA-256 哈希钉住目标基模型,声明依赖关系,用紧凑数学算子(如 12 个数的仿射折叠重写 4803 个权重)替代稠密浮点数组,并自带必须通过的定量断言测试。
- wpgit 在标准 Git 之上提供:build(按拓扑序编译 checkpoint)、test(上下文内差分集成测试)、check(成对交换性检测语义合并冲突)、rebase(迁移到更新后的基模型并检测陈旧上下文)。
在 17 个实验(15 万至 810 万参数,含 CatGAN、MobileNetV2 及七个 2017-2020 Keras checkpoint)中验证:
- 用 rank-2 active subspace lock(基于梯度外积主特征向量)锁定生成器属性,将属性方差从 68-71% 压到 10-11%,无需重训练。
- 通过通道回收(prune2)+ 精确 ReLU 门控(eyegate)做零参数电路手术,只把猫的虹膜变蓝而不影响图像其余部分。
「研究」频道最新
- Meta AI 提出 Off-Context GRPO:用特权信息攻克 GRPO 学习悬崖 — ceciletamura · 2026-11-05
- 模板化多语言安全训练管线:英语评测会误判模型安全性 — swiss-ai · 2026-11-05
- 「嫁接」训练法: 在预训练检查点上做 SFT 再迁移, 持续学习胜过自蒸馏 — AdtRaghunathan · 2026-11-05
- Physical Intelligence 发布 RLT:RL 微调让机器人精细操作提速 3 倍 — svlevine · 2026-11-05
- FrankenSim 用流体物理仿真长笛音色,14 项指标对比真实录音 — doodlestein · 2026-11-05
- 随机算法为何无处不在:从快速排序到 Miller-Rabin 的可靠性逻辑 — arpit_bhayani · 2026-11-05