至知创新开源 320B MoE 模型 IQuest-Q1
9 月 29 日,至知创新研究院(IQuestResearch)发布并开源 IQuest-Q1:一个总参数约 320B、每 token 激活约 15B 的稀疏 MoE 模型,主打 agentic coding、推理与多步工具调用。模型权重、技术博客与技术报告已在 Hugging Face 和 GitHub 同步免费上线,vLLM 在发布首日即宣布支持。中国团队背景与「训练自查 bug」案例使其成为近期开源阵营的关注焦点。
已确认
- 架构为 decoder-only Transformer 主干加稀疏 MoE:256 个专家中每次激活 8 个,上下文长度 524,288(约 52 万)token
- 据 @jacek2023 整理的 Reddit 规格信息:88 层 Transformer,隐藏维度 3072,Q/KV 注意力头 48/8,头维度 128;注意力为混合设计,含 3 层 SWA(滑动窗口注意力);@AdinaYakup 补充描述为 3 个滑动窗口注意力配 1 个全注意力,并提到模型采用自定义许可证
- 模型面向代码、软件工程和复杂智能体任务设计,模型卡已在 HF 公开(@Round-Argument-4984、@jiqizhixin)
- vLLM 官方账号确认首日支持(@vllmproject)
- 官方宣传称模型可诊断自身训练中的问题、定位并修复代码 bug、自主验证修复效果(@LearnWithBishal 转述);据 @新智元 与 @量子位 报道的典型案例:一次强化学习中得分曲线停滞且无报错,模型自己翻查训练日志、对话记录与代码,发现「一个空格导致分卡住」的问题
- @量子位 实测两个应用场景:一句话生成游戏、排查 RL 训练 Bug,说明模型在工具调用与工程排障方向有实际可用性
尚未确认
- 「自主工程能力」的宣称目前主要来自官方宣传与博主、媒体转述,缺少独立第三方复现验证;自定义许可证的具体条款细节亦未见完整披露
为什么重要
- 320B 总参 / 15B 激活的规格加上 52 万 token 超长上下文,使该模型在开源阵营中面向长程代码与智能体任务具备较强竞争力,且推理成本相对总参数量更低
- 开放权重附带技术报告与技术博客,GitHub 与 Hugging Face 均可免费获取,降低了复现与应用门槛
2026-09-29 ~ 2026-09-30 · 11 条相关
一手来源
- IQuest-Q1 开源:320B MoE 面向 agentic 编码,vLLM 首日支持 — vllm_project ·
- IQuest 发布 320B MoE 模型 IQuest-Q1,主打 agentic 编码与工具调用 — Round-Argument-4984 ·
- IQuest-Q1 发布:320B MoE 模型一句话生成游戏、还能排查 RL 训练 Bug — 量子位 ·
- 【源头】IQuest-Q1 开源:320B MoE 面向 agentic 编码,vLLM 首日支持 — vllm_project · 2026-09-29
- 【源头】IQuest-Q1 发布:320B MoE 模型一句话生成游戏、还能排查 RL 训练 Bug — 量子位 · 2026-09-29
- 【源头】IQuest 发布 320B MoE 模型 IQuest-Q1,主打 agentic 编码与工具调用 — Round-Argument-4984 · 2026-09-29
- IQuest-Q1 架构细节:524K 上下文、256 专家、混合注意力 — jacek2023 · 2026-09-29
- 智源系 IQuest-Q1 开源:320B 总参数 15B 激活,主打代码与智能体 — jiqizhixin · 2026-09-29
- 开源 IQuest-Q1 宣称可自诊训练问题并修复验证代码 bug — LearnWithBishal · 2026-09-29
- 320B 开源权重模型 IQuest-Q1 免费发布,可自诊训练问题并修复代码 — LearnWithBishal · 2026-09-29
- IQuest 发布 Q1 编码模型:320B/15B、512K 上下文、混合注意力 — AdinaYakup · 2026-09-29
- 320B 开源黑马 IQuest-Q1 自查训练 bug,空格致分卡住 — 新智元 · 2026-09-30
另有 2 条近重复转述:AdinaYakup · LearnWithBishal