scaling01 推测 GPT-6 若仅 3T 参数需循环 2-3 次,否则激活比达 2%
scaling01 · x · 2026-09-28
scaling01 在其 GPT-6 Astra 规模估计的后续讨论中补充推算:如果模型总参数量小得多(如约 3T),则各层可能需要循环执行 2-3 次;否则要解释其配置,就得假设高达 2% 的激活比(active ratio),这在实践中非常夸张。
与主帖同属一条推测线,均为未证实的架构与规模猜测。
所属事件:爆料者估算 GPT-6 Astra 或为 4.2T 参数循环语言模型(5 条相关)→
「模型」频道最新
- Unsloth 让 Laya Decision 模型跑进 4GB 内存,CPU 也能本地推理 — danielhanchen · 2026-09-28
- GLM 5.3 Flash 逼近发布:工程师启动最后内测,宣称速度质量兼得 — gaganghotra_ · 2026-09-28
- Eleven v4 登顶 Artificial Analysis 榜单,24 小时送 11k 额度 — charis_ai · 2026-09-28
- 开源模型逼近 TypeSafe Jev:Shisa DE-1 仅差 6 分,部分任务持平 — drdanielbender · 2026-09-28
- Sonnet 5.5 实测速度大增:3 分钟建好 3D 宝塔,Opus 5.5 需 15 分钟 — cedric_chee · 2026-09-28
- 网友实测称 Sonnet 5.5 编码已压过竞品旗舰,引发模型格局争论 — pranavmarla · 2026-09-28