AI 能直接读懂神经网络权重:仅凭 1.7 万参数文本认出玩吃豆人
JnBrymn · x · 2026-11-04
Arcturus Labs 报告显示,前沿模型可以把神经网络权重当作纯文本读入,直接推理出网络编码的行为,甚至直接修改权重——无需运行训练循环。
- 实验中给模型一个 17,253 参数的小网络(以 token 化文本呈现),Astra、Opus 5.5 和 Muse Spark 1.3 都推断出该网络在玩 Pac-Man,Astra 仅用极少推理步骤就得出结论。
- 作者提出核心疑问:几乎没人写过「某个具体权重是干什么的」这类语料,这种能力从何而来?要么是实验室刻意训练,要么说明模型泛化能力远超预期,作者倾向后者。
- 类比论证:人脑与果蝇大脑同为神经元构成,但即使有完整果蝇连接组,人脑也无法直接「读懂」它——神经网络身份本身不意味着能理解其他网络的权重;且权重是以普通文本而非原生格式输入,模型需克服 tokenization 带来的数字感知障碍。
这暗示模型对结构化数字数据的理解可能比社区普遍认知深得多,对可解释性研究有启发意义。
所属事件:MIT「权重空间编程」爆火：LLM 直改权重，随后遭拆解质疑(139 条相关)→
「模型」频道最新
- OpenHands+Harbor+SkyRL 组合，让产品公司给自己的 Agent Harness 做后训练 — StasBekman · 2026-11-04
- Google Antigravity 新 UI 曝光:将新增上下文与配额指示器 — clmt · 2026-11-04
- NVIDIA 上线 Nemotron Transcribe 语音转写演示空间 — nvidia · 2026-11-04
- 爆料:Anthropic 页面现 Mythos 5.5,Codex 数据露 GPT-6.2 Astra — haider1 · 2026-11-04
- 从 CPU 到 GPU 到推理服务：一个故事讲透 LLM 推理基础设施全链路 — _jaydeepkarale · 2026-11-04
- 花 100 美元 GPU 费改模型权重,思考 token 省 40% — jarrodwatts · 2026-11-04