Scaling Law 不止是参数量,还看三件事
natolambert · x · 2026-08-20
转发了对 Scaling Law 的深度思考,指出现在每次模型发布只关注参数量是片面的。参数量只有在结合数据量、算力分配策略以及模型的运行条件和受众时才有意义。文中还提到了学习率等变量的重要性。
所属事件:智谱唐杰长文谈Scaling Law:GLM-5.3不增参数靠后训练(10 条相关)→
「Infra」频道最新
- Cursor 创始人吐槽:沙箱间可共享读写盘是公有云最贵的东西 — thdxr · 2026-10-17
- VaeZip 开源:VAE latent 数据集压缩 5-10 倍,几乎不损质量 — TensorForger · 2026-10-17
- 全球设备对时靠一个文本文件,UCLA 教授义务维护 tzdata 近 20 年 — PMinervini · 2026-10-17
- Google Cloud 发布 GPU/TPU 科普新文档,从 CUDA 核讲到适用场景 — rseroter · 2026-10-17
- 卖 10 部 iPhone Duo 的钱就能买满一间本地 GPU 实验室 — AIFlow_ML · 2026-10-17
- Nvidia MaxLPS 同功率下榨出 30-40% 性能,CUDA 之父称华尔街没算到 — bookwormengr · 2026-10-17