让 AI Agent 直接改权重:MNIST 上逼近 90% 准确率
RobertTLange · x · 2026-11-05
RobertTLange 复现「权重编程」玩法:让 Claude/Codex 从随机初始化开始,对分类 MNIST 的 MLP 直接做权重编程。结果与发现:
- Agent 能把测试准确率推到接近 90%(对比类均值匹配基线 82%),各模型表现不一:Claude Opus 5.5 达 88.6%,Sonnet 5.5 85.5%,GPT-6 Astra 84.9%,Haiku 5.5 仅 50.3%。
- Agent 先把数字模板烙进神经元激活,之后转向类 Gabor 滤波式的特征图;网络函数的改动可以快速、半协调地大块替换。
- 更多数据并不一定有帮助——这种「学习」与反向传播/有限差分很不同,可能是缺乏特异性的缘故。
- 作者后续补充:Agent 改的是简单网络的权重而非另一个 LLM,且从随机初始化出发,所以流行的激活转向论不能完全解释;多数模型都能把 MLP 推近 90%,前沿模型更好,但 Sonnet 5.5 也已相当能打。
作者将其总结为一类「启发式学习」,像是在神经网络画布上作画。
所属事件:开发者实验让 AI Agent 直接编程神经网络权重(2 条相关)→
「模型」频道最新
- Claude Code 模型选择器截图曝光：Opus 5.5 分五档推理强度可选 — sergeykarayev · 2026-11-05
- Qwen 本地模型借 uni-robot-agent 控机器人，得分超 GPT-6 Astra — dotey · 2026-11-05
- Claude Opus 5.5 神操作：主动质问实验中从未定义的 A3.5 分支 — teortaxesTex · 2026-11-05
- Macrocosmos 发布首个公开模型 IOTA Decide 4B：全球分布式 GPU 训练、Apache-2.0 开源 — markjeffrey · 2026-11-05
- 博主推测 OpenAI 内部模型 BenchCAD 2.0 大幅领先 GPT-6 Astra — haider1 · 2026-11-05
- Nat Lambert：post-training 与「post-post-training」是两门不同手艺 — natolambert · 2026-11-05