GLM-5.3-Flash 采用混合注意力降成本
multimodalart · x · 2026-08-26
GLM-5.3-Flash 发布，基于新的基础模型重新设计了架构和训练配方。该模型采用了稀疏注意力与线性注意力的混合机制，在保持精确长上下文能力的同时，显著降低了长上下文服务的成本。
所属事件:智谱开源 GLM-5.3-Flash：320B MoE 多模态、成本降九成(48 条相关)→
「模型」频道最新
- Google 官方展示 Gemini 4 Argon 攻坚内部最难工程问题 — CurieuxExplorer · 2026-10-15
- Perplexity 新 embedding 模型：大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- 797GB n-gram 放进 CPU 内存，小模型硬扛多 57% 算力 — PangWeiKoh · 2026-10-15
- 爆料称 Kimi 旗舰 x4 已完成预训练，K3.1 开始内部测试 — lyraxana · 2026-10-15
- Unsloth 发布 Nemotron 3.5 本地量化包:Bolt 24GB 内存可跑 — danielhanchen · 2026-10-15
- NVIDIA 开源 Nemotron 3.5 Bolt 双模型：74B MoE 与端侧 E4B 同日发布 — HankYeomans · 2026-10-15