实验室内部视角:scaling 尚未到墙,Astra 令内部恐慌加剧
MajmudarAdam · x · 2026-09-13
作者 MajmudarAdam 认为过去两周从外部看很像一场全行业协调好的监管捕获策略,但他试图解释实验室员工究竟看到了什么——核心是内外部对模型能力进展速度的感知鸿沟。
- 大跳跃才是关键:过去十年能力跃迁只来自两种方式——在既有 scaling law 上继续拉大规模,或发现新的 scaling 轴。GPT2/3/4 是预训练规模跃升,o1/o3 靠发明测试时算力这条新轴。真正的大跳跃屈指可数:GPT3、GPT4、o1/o3、DeepSeek R1、Fable/Mythos、Kimi K3,以及现在的 Astra。
- "撞墙论"为何流行:大跳跃稀少而边际升级常见,人们容易在 GPT5 这类节点得出"scaling 撞墙"的舒适结论,并找理由支撑(参数太大、数据用尽、接下来只能线性提升)。
- 内部人看的是图:实验室研究员依据 scaling law 与能力曲线直接回答"还能扩多大"——问题实质是"还有多少未饱和的 scaling 轴可用"。Astra 的出现让内部对进展速度的判断骤变,这正是员工突然恐慌的来源。
(原文在讨论未饱和 scaling 轴数量处被截断。)
所属事件:实验室内部视角:scaling 未到墙,恐慌真实存在(2 条相关)→
「漫话AGI」频道最新
- 国际象棋早被 AI 攻克,为何人类依然热学热玩 — njyx · 2026-09-13
- Gary Marcus 联合发文,质疑 Dario「AI 机器人半年接管互联网」论 — GaryMarcus · 2026-09-13
- Noah Smith:「英雄时代终结」,AI 数学能力逼近超越所有人类 — inductionheads · 2026-09-13
- 讽刺帖:推迟前沿 AI 或让 2030 年癌症患者等不到疗法 — cgarciae88 · 2026-09-13
- 转发者称 e/acc 一派的 AI 安全路线存在根本性错误 — NathanpmYoung · 2026-09-13
- 为什么默认中国会放任 AI 公司「莽到自毁」?安全辩论再起 — JeffLadish · 2026-09-13