Library of Layers:按输入动态重排 transformer 层顺序,可直接控制解题算法
jonasgeiping · x · 2026-11-04
研究者 Sean Mcleish 介绍「Library of Layers」架构:模型不再使用固定的层顺序,而是在共享的层库(expert blocks)上为每个输入单独路由整个 transformer 块,即让模型按需选择自己的执行路径。团队展示了直接应用:仅改变层顺序,就能控制模型解迷宫和数独时所用算法——把「用哪个算法解题」变成可操控的开关。这为控制模型内部执行路径开辟了新方向。
所属事件:Library of Layers:推理时动态重排 Transformer 层顺序(3 条相关)→
「研究」频道最新
- 团队 2 天半烧 100 亿 token 打造全城级世界模型 Omniscience — Kuprel · 2026-11-04
- 伯克利团队提出 Data Inoculation:用 RL 在采数据时就提升质量 — berkeley_ai · 2026-11-04
- Map2Video:用地图和街景控制真实地点的 AI 视频生成 — ryosuzk · 2026-11-04
- Xudong Sun 获 SIGOPS Dennis M. Ritchie 博士论文奖荣誉提名 — LingmingZhang · 2026-11-04
- 首例人体试验:单碱基基因编辑成功治疗遗传性肝病 — theimposingshadow · 2026-11-04
- 15 岁开发者自研注意力内核:32k 上下文零 OOM,快 11 倍 — vankownlaw · 2026-11-04