潜在空间递归深度:不动参数就能扩测试时算力的路线
gordic_aleksa · x · 2026-09-17
Gordic Aleksa 推荐 Geiping、Goldstein 等人的论文《Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach》,认为这种 looped transformer 的递归深度新维度被低估,有传闻称前沿实验室已在采用。
- 核心:通过循环迭代同一 block,在潜在空间隐式推理,测试时展开到任意深度,与生成更多 token 的 CoT 路线不同
- 优势:无需专门训练数据、可用小上下文窗口、能表达难以用语言呈现的推理
- 规模:概念验证模型 3.5B 参数、800B tokens,推理基准显著提升,等效约 50B 参数模型的算力负载
- 这是继参数量、显式思维链之外的第三条 scaling 维度
所属事件:循环 Transformer 受关注：不动参数即可扩展推理算力(2 条相关)→
「研究」频道最新
- AI 把儿童心脏 3D 建模从 4 小时缩到几秒，CHOP 开源平台 — kimmonismus · 2026-09-17
- Liouville 版哥德巴赫猜想获完全证明并通过 Lean 形式化验证 — ctjlewis · 2026-09-17
- RIGOR 论文：把 360° 图像拆成四个虚拟 rig 实现全向重建 — kwangmoo_yi · 2026-09-17
- 任务描述越模糊，不同模型家族越容易犯同样的错？ — breadstickdingdong · 2026-09-17
- 只重训 fp16 scale,让 3-bit GGUF 更贴近 BF16 原模型 — ZenZombie117 · 2026-09-17
- 网友自嘲：独立构思的评测思路撞车 Vals AI 新基准，AI 圈在模式坍缩？ — scaling01 · 2026-09-17