IQuest-Q1 开源:320B MoE 面向 agentic 编码,vLLM 首日支持
vllm_project · x · 2026-09-29
IQuest 研究团队发布并开源 IQuest-Q1:总参数 320B 的 MoE 模型,每 token 仅激活 15B,256 个专家中每次激活 8 个,上下文长度达 524,288(约 52 万 token),专为代码、软件工程与复杂 agentic 任务打造,技术报告、HuggingFace 与 GitHub 权重同步放出。
vLLM 宣布 day-0 支持,且完全基于现有组件实现:
- 用混合 KV cache 协调器支持「3 层滑窗 + 1 层全注意力」的层结构,88 层中只有 25 层的缓存随上下文增长;
- 在 attention 后端加入 sinks 路径,实现模型要求的 sink attention;
- 用 EAGLE 投机解码配合概率化草稿采样,支撑递归式 MTP 头的草稿生成。
「编程与Agent」频道最新
- Qwen 团队开源 QwenGyre:超长程 Agent 在线 RL 训练框架 — Qwen · 2026-09-29
- 梗图:用户威逼利诱 agent 执行自己的「烂计划」 — mike64_t · 2026-09-29
- Agent 记忆该有保质期:作者提出六字段记忆元数据框架 — Hairy-Difficulty-411 · 2026-09-29
- 开发者搭桥:网页版 ChatGPT 通过远程 MCP 直接操作本地电脑 — ChoasMaster777 · 2026-09-29
- 99 秒演示:用 MCP 给 Agent 加终端+浏览器受控执行与审批边界 — ImaginaryMachine9110 · 2026-09-29
- SolarMind 亮相:带持久记忆的 AI 事故响应 Agent 四级自动分诊 — CountyNecessary4030 · 2026-09-29