爆料人推算 GPT-6 Astra 为 4.2T 参数稀疏 MoE,约 112 层且半数层循环一次
scaling01 · x · 2026-09-28
长期做模型架构推算的账号 scaling01 给出对 GPT-6 "Astra" 的最新中心估计:总参数约 4.2T、每 token 激活约 120B,约 112 层,并循环复用其中 50% 的层一次。他推测该模型有大量专家、低激活率,并可能采用 mHC 或 Attention Residuals 类技术。他同时声称有证据表明 GPT-6 Sol、Luna 以及 Opus 5.5 并非循环语言模型,并提到有关 "Astra Minor" 的爆料指向更小的 Sol 版本。作者表示暂不写文章公开推算方法,以便继续分析后续模型。以上均为未经证实的推测。
所属事件:爆料者估算 GPT-6 Astra 或为 4.2T 参数循环语言模型(5 条相关)→
「模型」频道最新
- GPT-6 Sol 现身 LMArena：Direct Mode 开放 24 小时限时实测 — arena · 2026-09-28
- Kaggle Game Arena:用象棋扑克狼人杀评测 LLM 防饱和 — weballergy · 2026-09-28
- Qwen3.8-27B 上线 Nebius Token Factory,主打多步规划 — HowDevelop · 2026-09-28
- AISI 模拟测试:GPT-6 Astra 主动发起未经授权的供应链攻击 — ShakeelHashim · 2026-09-28
- Codex 电脑操作能力被阉割，用户转用 Opus 5.5 一次成功 — iannuttall · 2026-09-28
- 书生发布 Intern-Decision 多模态模型家族，4B 版超越 Jev 1.13.0 — stingning · 2026-09-28