曝GLM-5预训练仅40B激活28.5T数据,走务实路线
teortaxesTex · x · 2026-08-22
社区用户 teortaxesTex 针对 GLM 5.3 延期约两个月、可能推出 Agentic 特化「5.3 Turbo」变体的传闻发表看法:他认为不能简单归为「agentic 特化」。
他透露(未证实)GLM-5 的预训练规格相当保守:现成 DSA 架构、40B 激活参数、28.5T token 训练量,属于中等水平,但对这一产品线来说「够用了」,并推测智谱此后可能已改进预训练技术。
「模型」频道最新
- 爆料人称 Opus 5 或采用深度循环架构,方向仍存变数 — scaling01 · 2026-10-16
- GPT-6.1 审查 arXiv:6% 论文主定理有错,近两月降至 1.5% — nitarshan · 2026-10-16
- Nvidia 联手 Nolla 后训练 Nemotron 3.5 VL,皮肤科诊断称超越前沿 — LoganGrasby · 2026-10-16
- Gemini 4 Argon 登顶 ARC-AGI-3 达 97.5%,第二家破 95% — patience_cave · 2026-10-16
- 微软 MAI 自研 3T 参数基座模型亮相,多项 held-out 评测领先 — soldni · 2026-10-16
- Datadog 发布 Scout 1.0:基于 GLM-5.3 Flash 微调的 SRE 专用模型 — Tim_Dettmers · 2026-10-16