GPT-6 Astra 被猜采用循环深度,仅 200 万参数模型打平 ARC-AGI
有传闻称 OpenAI 的 Astra 模型采用循环 Transformer(Looped Transformers)架构(未证实)。研究者 Günter Klambauer 猜测 GPT-6 Astra 可能使用其团队年初提出的「循环深度」,即共享权重的 Transformer block 被反复施加多次。相关研究 SE-RRM 论文仅用 200 万参数就在 ARC-AGI 上打平更大模型;另一项缩放律研究则显示,增加循环主要提升推理能力,而非知识容量。
2026-09-04 ~ 2026-09-04 · 2 条相关
- 循环 Transformer 缩放律:加循环不涨知识,只涨推理 — bookwormengr · 2026-09-04
- 研究者猜测 GPT-6 Astra 或用循环深度,SE-RRM 论文仅 200 万参数打平 ARC-AGI — gklambauer · 2026-09-04