Library of Layers:按输入动态重排 transformer 层顺序,可直接控制解题算法

jonasgeiping · x · 2026-11-04

研究者 Sean Mcleish 介绍「Library of Layers」架构:模型不再使用固定的层顺序,而是在共享的层库(expert blocks)上为每个输入单独路由整个 transformer 块,即让模型按需选择自己的执行路径。团队展示了直接应用:仅改变层顺序,就能控制模型解迷宫和数独时所用算法——把「用哪个算法解题」变成可操控的开关。这为控制模型内部执行路径开辟了新方向。

所属事件:Library of Layers:推理时动态重排 Transformer 层顺序(3 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →