On Growth and Form, and Function: Reusable Regulatory Handles Control Phenotypic Variation
Benedikt Hartl, Milton L. Montero, Marcello Barylli, Sebastian Risi, Michael Levin
cs.NE, cs.LG
2026-09-24
给神经细胞自动机装上 LoRA:一对秩一适配器只动 2.6% 参数即可参数化控制形态缩放,并零样本迁移到共享支架的全部受测表型。
1917 年,D'Arcy Thompson 在《On Growth and Form》里画过一批著名的网格图:给一种鱼的解剖结构罩上笛卡尔网格,再对网格做拉伸,常能得到近缘物种的体型。形态之间的关系能用简单几何变换描述,这个观察一百多年前就有了。缺的是另一半:变换对应的发育改动是什么?哪些细胞层面的调节变化,长着长着就把一种体型变成了另一种?论文把这称作 Thompson 留下的百年逆问题。
这个问题没法直接在生物体上做实验,作者选了神经细胞自动机(Neural Cellular Automata,NCA)当最小模型:网格上每个「细胞」持有一个 32 维向量状态,用同一个两层神经网络读邻居状态、更新自己,从单颗种子细胞出发长出一个目标图案(这里是 emoji),共享网络扮演基因调控网络的角色。问题于是变成:形态的连贯变换,能不能编码成这个网络参数空间里的低维方向?作者来自 Tufts 大学 Allen Discovery Center 的 Michael Levin 团队与哥本哈根 IT 大学的 Sebastian Risi(兼 Sakana AI)。
全流程分三步。
第一步练「共享支架」。120 个 Noto emoji 目标联合训练:支架参数 W0 与每个目标专属的秩 16 LoRA 适配器一起优化,长哪个目标就 one-hot 激活哪个适配器;练完丢掉全部适配器,留下的 W0 不对应任何表型,只是后续一切适配器共用的参照系。10 个并行 worker 每 100 轮按 0.9:0.1 把自己的支架合并进共享检查点。
第二步学「缩放方向」。在长蓝鱼的 NCA(W0 加鱼的适配器)上再挂两条秩一 LoRA,一横一纵,在 25 档规定缩放上联合训练(基准 37×37,档位取 {25,31,37,43,49} 的全组合)。系数设计取对数,β(s)=β0·log(s/s0):放大与缩小在权重空间里对称,基准尺寸对应零调制。最终权重为 W0+目标适配器+βx·Δx+βy·Δy,秩一只动 320 个参数,占全网络 12,416 个参数的 2.6%。
第三步做「权重空间普查」。冻结支架,给约 25,000 个 emoji-厂商组合(9 家 emoji 厂商)各拟合一个秩 16 LoRA,再对全量权重空间做 PCA,看主成分与表型特征的对齐关系。
| 项目 | 结果 |
| 缩放控制 | 两条秩一适配器(320 参数,2.6%)实现全部 25 档横纵缩放 |
| 分布外泛化 | 训练只见 5 档尺寸,在 [15,57] 连续区间仍有效(LPIPS 感知损失,每点 16 次随机 rollout) |
| 跨表型迁移 | 同一对 Δx/Δy 零样本迁移到蜥蜴、灭火器等结构迥异的表型,内部特征保留 |
| 权重空间结构 | PC0 与横向尺度相关 r=-0.71,PC1 与纵向 r=-0.73,交叉相关仅 0.07/0.08 |
| 方向退化 | 学习出的 Δx/Δy 与 PCA 尺度方向余弦相似度约 0.1 |
零样本迁移是全文最硬的结果:为鱼学出的缩放方向,原封不动加到蜥蜴、灭火器的 NCA 上就能缩放它们,内部花纹与比例基本不动;各向异性缩放还会对有朝向的表型产生有效的剪切变换。方向学到的是系统级的几何控制,不是鱼的特征记忆。
普查那步同样出了东西:权重空间前两个主成分分别对准横、纵尺度,沿主成分方向平移任意表型的权重即可压缩或拉伸其发育结果;OpenMoji 风格目标与其余目标的平均权重差构成一条「加黑色描边」的风格迁移方向;对称分裂表型与非分裂表型的质心差构成一条「裂变」方向,β≳2 时让任意表型沿纵轴对称一分为二,反方向则把分裂表型融合回去。
退化本身也有信息量:学习得到的尺度方向与 PCA 发现的尺度方向几乎正交(余弦约 0.1),却控制同一批宏观变换。同一套发育底物里存在多条通往同一结果的调节路径,作者把这联系到 poly-computing。
LoRA 在这里不是省显存的微调技巧,是分析仪器。把它装进一个自组织动力系统,参数空间里就长出了可解释的语义几何:尺寸、风格、裂变都是权重空间里可以线性行走的方向。对做权重空间可解释性的人,这是一份干净的小型案例:条件生成的「条件」可以不是输入端的 token,而是发育规则本身的低维扰动。
对 Levin 一线的生物电与再生医学研究,含义更远:Pattee 1973 年预想的系统级控制句柄在这里有了计算实例,不逐个细胞地下达指令就能改宏观结果。作者把长期目标定在「解剖学编译器」,像文生图那样按需生成发育程序。诚实地说,眼下这只是 2D 网格上 emoji 的概念验证,没有任何生物物理。
作者自己列的:抽象 2D 网格,无物理约束,ANN 权重对应不到具体基因或形态原;方向特征纠缠,PC0/PC1 同时改变亮度,风格方向同时缩小尺寸;细粒度重建要数千个主成分,权重空间只在大特征上是语义的。
更存疑的有两点。其一,通用性严格限定在同一支架内:零样本迁移要求所有 NCA 共享联合训练出的 W0,论文自己也论证了独立训练的 NCA 之间存在规范对称、权重不可直接比对,「普适方向」的适用范围比直觉窄。其二,附录里的再生实验是负结果:把有再生能力的 NCA 与无再生版本的权重差迁移到别的表型上,结果基本失能;引言里指向再生医学的想象,在自家模型里还没走通。
另外没有与全参数微调或 goal-guided NCA 等既有条件化方案的定量对照,LPIPS 热图属于定性证据。利益披露:研究部分由 Levin 联合创办的 Astonishing Labs 资助。