质疑「预训练规模扩展已死」论:模型轴到底是架构还是规模?
samsja19 · x · 2026-09-09
- 作者回应 Sarah Hooker "因为 Transformer 已饱和、预训练模型规模扩展已死"的说法,提出两点质疑:人们仍在扩大模型规模;且图中模型轴衡量的是架构而非模型大小。
- 反映 scaling 讨论中架构扩展 vs 规模扩展概念被混用的争议。
「模型」频道最新
- Muse Spark 1.3 登 CursorBench:67.9 分仅 $1.31,性价比碾压 — shuyanzh36 · 2026-09-09
- 曝 OpenAI 内部模型 bel 数学解题量达 astra 约 2.5 倍 — imjustnewatai · 2026-09-09
- GPT-6-Astra 上线 Loop:基于 Codex 构建的调试工具直接可用 — nikunjhanda · 2026-09-09
- 创始人实测 GPT Astra:思考更快,更擅长处理人际沟通细节 — morganlai · 2026-09-09
- DeepSeek V4.1 Flash Vision Beta 实测:5 项视觉测试全面碾压上代 — cheezeerd · 2026-09-09
- GPT-6 Astra 登陆 Amazon Bedrock:百万 token 上下文,首达网络安全 Critical 级 — AWS ML Blog · 2026-09-09