智谱 GLM-5.3-Flash 发布:320B MoE 混合注意力与百万上下文
TheZachMueller · x · 2026-08-26
Zai 发布 GLM-5.3-Flash,这是 GLM-5 系列首款原生多模态模型。该模型采用 320B 总参数、18B 激活参数的 MoE 架构,结合了稀疏注意力与线性注意力,支持 100 万 token 上下文窗口。模型已获得 vLLM 首日支持,经验证可在 NVIDIA 和 AMD GPU 上运行。vLLM 团队指出,这是首个同时要求两种注意力机制并支持的模型。
所属事件:智谱开源 GLM-5.3-Flash:320B MoE 多模态、成本降九成(48 条相关)→
「模型」频道最新
- Google 官方展示 Gemini 4 Argon 攻坚内部最难工程问题 — CurieuxExplorer · 2026-10-15
- Perplexity 新 embedding 模型:大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- 797GB n-gram 放进 CPU 内存,小模型硬扛多 57% 算力 — PangWeiKoh · 2026-10-15
- 爆料称 Kimi 旗舰 x4 已完成预训练,K3.1 开始内部测试 — lyraxana · 2026-10-15
- Unsloth 发布 Nemotron 3.5 本地量化包:Bolt 24GB 内存可跑 — danielhanchen · 2026-10-15
- NVIDIA 开源 Nemotron 3.5 Bolt 双模型:74B MoE 与端侧 E4B 同日发布 — HankYeomans · 2026-10-15