开源模型逼近 3T 参数,推理成新护城河
ruslansv · x · 2026-07-21
这条回复在讨论大模型参数规模的继续膨胀:作者认为,开源权重模型已经接近 3T 参数,传闻中的 Fable 可能有 6–8T 参数;如果趋势延续,到年底可能会看到 20T 级别模型。
核心判断是:如此庞大的模型,真正的护城河可能变成推理能力。帖子还提到训练语料已达到数十万亿 token 量级,意味着模型和数据继续放大后,推理效率会越来越关键。
所属事件:开源模型参数逼近3万亿,推理算力成新护城河(3 条相关)→
「研究」频道最新
- Kolab 基准:真人屏幕录像揭示 AI Agent 高估自身协作质量 — minnesotanlp · 2026-10-27
- 一个样本就能刷过公平性基准,EMNLP 论文质疑 BBQ 可信度 — radamihalcea · 2026-10-27
- 一段手机视频生成2000条机器人演示,Real2Sem2Real媲美150条遥操数据 — Scobleizer · 2026-10-27
- 从权重范数几何理解MuonH:尺度不变网络中梯度垂直于权重 — jasondeanlee · 2026-10-27
- 用 Sail 等价性证明与 riscv-coq 交叉验证 RISC-V 规范,发现真实 bug — xennygrimmato_ · 2026-10-27
- Kokotajlo 质疑 CoT 监控性评测:如果模型不拒绝篡改思维链呢 — dfrsrchtwts · 2026-10-27