把 1.7 万参数神经网络当文本喂给 LLM,模型竟看懂它在玩 Pac-Man

JnBrymn · x · 2026-11-04

Arcturus Labs 的实验显示，前沿模型能直接读、推理甚至修改神经网络权重：把一个 17,253 参数的小网络转成纯文本 token 喂给模型，Astra、Opus 5.5 和 Muse Spark 1.3 都推断出该网络的功能是玩 Pac-Man，且 Astra 几乎不靠长推理就答对。

作者指出这在直觉上很反常：LLM 只学过处理文本和图像，权重又是以普通文本形式呈现（类似 tokenizer 切词，并非原生数值），没有人类写过解释具体权重的语料。作者猜测两种可能——要么是实验室刻意训练了这种能力，要么是模型的泛化能力远超预期；他倾向于后者，并认为这有点可怕。文章还讨论了类比：我们有果蝇大脑完整连接组，人脑也无法直接读懂另一颗大脑的线路图。