ZGCM-1 全开源 7B 模型发布:FP8+混合注意力,数学与 Agent 搜索比肩前沿大模型
_reachsumit · x · 2026-09-15
微软亚洲等团队发布 ZGCM-1,一个完全开源、从零训练的 7B 稠密基础模型,主打极致的数据、系统与算法效率,256K 上下文,专注数学推理与 agentic search。
核心思路:小模型无法被动记忆整个开放网络,但可以通过「深度内部思考 + 主动外部工具调用」突破参数容量限制。
技术要点:
- 架构与系统协同设计:门控滑窗注意力与全注意力交错,稳定的 FP8 Muon 优化器
- 渐进式课程与 MDP 中期训练:上下文分 16K/64K/256K 三阶段扩展,把交互轨迹重构为马尔可夫决策过程
- AI 原生研发工作流:agent 集群自主管理集群运维、数据清洗与快速诊断评测
评测:在通用基准上具 7B 家族竞争力;在多项数学推理与 agentic search 任务上可与大几个数量级的模型(如 Qwen3-235B)竞争。
所属事件:7 名博士生暑期从零训出开源 7B 模型 ZGCM-1(3 条相关)→
「模型」频道最新
- AWS 开源 Strands Harness 宣称比 Claude Code 便宜 45%,搅动 harness 之争 — blaizedsouza · 2026-11-02
- Yacine 赞誉 Terra High:一条推文引爆的新模型口碑 — yacineMTB · 2026-11-02
- 单卡 H200 跑 DeepSeek V4.1,时租仅 5.3 美元 — daluoseo · 2026-11-02
- 曝 Fable 5.5 最新 checkpoint 视频流出,纯代码生成 — kimmonismus · 2026-11-02
- 用户实测 Claude Opus 5.5 行为异常,引出持续学习难题 — JeremyNguyenPhD · 2026-11-02
- Reddit 热帖追问:为何主流 AI 模型集体忽略冰岛女性罢工 — Mathemodel · 2026-11-02