LLaDA 2.2 宣称 1.64 倍吞吐和原生 128K 上下文
omarsar0 · x · 2026-07-26
这条补充了 LLaDA 2.2 的工程侧优势。
- 它在吞吐上平均达到 Ling-2.6-flash 的 1.64×，再做 FP8 量化还能额外提升 18.6%。
- 模型支持原生 128K 上下文，并采用从 8K 逐步扩展到 128K 的训练策略。
- 由于是 MoE，每个 token 只激活一部分参数；再加上 Block Routing，长上下文推理的路由开销更可控。
所属事件:蚂蚁开源扩散大模型 LLaDA 2.2，主打智能体与自纠错(10 条相关)→
「模型」频道最新
- 网友称用 Kimi K3.1 Pro High 生成 LLM 原理讲解视频,模型名存疑 — iamfakhrealam · 2026-10-27
- 「花几美分就能得到去掉安全训练的模型，世界还没准备好」 — EXM7777 · 2026-10-27
- 让 LLM 预测 2030 年 AI 进展，发现它对 AI 太保守了 — FlorianGallwitz · 2026-10-27
- 用 prefilling 实锤模型异常 curl 行为：加 -o /tmp 后 98% 补全写出 URL — rickasaurus · 2026-10-27
- Unsloth 发布 DeepSeek-V4.1-Flash 本地运行指南：128GB 内存可跑 1M 上下文 — gnukeith · 2026-10-27
- X Chat 现可直接查看 Grok 每周用量额度与重置时间 — XFreeze · 2026-10-27