探讨缩放定律：参数、算力与测试时计算的权衡
samsja19 · x · 2026-08-20
针对 Jie Tang 关于缩放定律的观点，评论展开了深度技术讨论：
- 扩展参数策略：探讨 Active parameters（激活参数）和 Total parameters（总参数）的独立扩展目标。
- 深度与算力：分析模型深度、专家数量扩展与测试时计算之间的权衡。
- MoE 架构：讨论在内存和互联带宽允许的情况下，是否应最大化专家数量。
所属事件:智谱唐杰长文谈 Scaling Law，GLM-5.3 不增参数转向 RL 后训练(5 条相关)→
「Infra」频道最新
- Qwen3.8-27B 实测：KV Cache 量化至 Q4 显著影响思维质量 — fbms2 · 2026-08-20
- DGX Spark 带宽受限，博主权衡用 RTX 5090 提速 — daniel_mac8 · 2026-08-20
- 延迟 1.5 年损毁 8.9% 价值，AI 数据中心速度为王 — Beth_Kindig · 2026-08-20
- 澄清：OpenAI 20% 算力用于监测是误解 — sjgadler · 2026-08-20
- SkyPilot 联手 VAST Data 等举办 AI 基础设施聚会 — skypilot_org · 2026-08-20
- PolymathicAI 发布 15TB 物理模拟数据集 The Well — tom_doerr · 2026-08-20