传 GPT-6 Astra 采用循环 Transformer:加深计算层数而非堆参数量
pranavmarla · x · 2026-09-16
SemiAnalysis 相关讨论被引用称,GPT-6 Astra(未经官方证实)据称使用 loop transformer 架构:模型不再增大参数量,而是让同样的权重多次穿过层,以增加计算深度换取能力提升。
- 核心含义:如果"深度胜过规模"成立,以 FLOP 数量为核心的算力军备竞赛格局将改变——权重复用使推理成本曲线与常规 scaling 完全不同。
- 转发者观点:实验室在路线图中不再激进堆参数,说明他们自己的研究已发现参数规模扩张回报有限,而实验室正是最清楚 scaling 走向的一方。
- 注意:该说法属圈内爆料/转述,官方尚未确认。
所属事件:爆料称 GPT-6 Astra 采用循环 Transformer 架构(3 条相关)→
「Infra」频道最新
- Gary Marcus:多米诺骨牌开始倒下,算力将重演光纤过剩 — GaryMarcus · 2026-11-02
- 单台 H200 跑不动 DeepSeek 4.1 Flash，两台每小时 10.59 美元 — daluoseo · 2026-11-02
- 所有系统知识都将汇入推理与硬件，AI 时代技能版图正在重写 — Abhishekcur · 2026-11-02
- AWS 被曝算力订满至 2027，专家称「卖光」说法需看语境 — DavidLinthicum · 2026-11-02
- 富士康董事长刘扬伟：AI 不是泡沫，产品需求依然明确 — pstAsiatech · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02