探讨缩放定律:参数、算力与测试时计算的权衡
samsja19 · x · 2026-08-20
针对 Jie Tang 关于缩放定律的观点,评论展开了深度技术讨论:
- 扩展参数策略:探讨 Active parameters(激活参数)和 Total parameters(总参数)的独立扩展目标。
- 深度与算力:分析模型深度、专家数量扩展与测试时计算之间的权衡。
- MoE 架构:讨论在内存和互联带宽允许的情况下,是否应最大化专家数量。
所属事件:智谱唐杰长文谈Scaling Law:GLM-5.3不增参数靠后训练(10 条相关)→
「Infra」频道最新
- 大型数据中心仅约50-150个常驻岗位,微软首楼约50名全职员工 — brezina · 2026-10-16
- 2027 年笔记本将跑 Opus 5.5 级模型?Qwen 27B 数据佐证 — cephaloform · 2026-10-16
- Oracle 一周跌 12%、较 6 月高点近腰斩,市场用脚投票 OpenAI 敞口 — alvelda · 2026-10-16
- 美国数据中心暂停令突破 400 起,AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- 微软研究院发布 Magnetar:最快 zkVM,比现有方案快 10-39 倍 — jedisct1 · 2026-10-16
- Bonsai 2 2B 端侧模型登 iPhone:120 token/s,速度两倍于 Qwen 3.5 2B — cephaloform · 2026-10-16