IQuest 开源 320B MoE 模型 Q1,主打智能体编码

IQuest 研究团队发布并开源 IQuest-Q1,一个面向 agentic coding、推理与多步工具调用的稀疏 MoE 模型。模型总参数约 320B,每 token 仅激活 15B,256 个专家中每次激活 8 个,上下文长度达 524,288 token。架构上采用 88 层 Transformer、隐藏维度 3072 与混合注意力,vLLM 在发布首日即提供支持。演示显示其可一句话生成游戏并排查 RL 训练中的 Bug。

2026-09-29 ~ 2026-09-29 · 4 条相关