MacBook 本地跑 Qwen 编码 Agent:上下文与输出双重瓶颈实战解析
Techngro · reddit · 2026-08-08
作者分享了在 MacBook Air(32GB)上使用 oMLX 运行 Qwen3.6-35B-A3B-4bit 模型,配合 Pi 编码 Agent 处理大型 TypeScript 仓库时遇到的严重瓶颈。
核心问题:
- 上下文空间不足:系统、工具和仓库指令的开销占据了约 10.2K Token,导致在 19.5K 的上下文窗口限制下,实际可用工作空间仅剩约 5K,频繁触发自动压缩(compaction)并中断任务。
- 输出长度受限:4K 的最大输出 Token 限制对于开启了思考模式(thinking)的 Qwen 模型来说过于局促,导致任务未完成就被截断。
优化思路:
- 削减系统指令开销,降低压缩后保留的 Token 数量(如将 keepRecentTokens 从 4096 降至 1024-2048);
- 在工具调用密集的代码审查阶段,考虑关闭或减弱模型的思考模式以节省输出预算;
- 针对不同任务(调查工具 vs 深度编码)使用不同配置;
- 探索在 32GB 苹果芯片上稳定扩展有效上下文窗口的可行方案。
「编程与Agent」频道最新
- DHH 深圳行:Omarchy Meetup 超 400 人报名,小米高管现场演示 — LoganGrasby · 2026-10-16
- shadcn 转发 ShadHub:GitHub Registry 目录站上线,可即时提交收录 — shadcn · 2026-10-16
- Sarvam 联手 Figma:基于 Indus 的 Agent 可经 MCP 直接在 Figma 里做设计 — itsOmSarraf_ · 2026-10-16
- 独立开发者给 Mac VM 应用加 MCP:让 agent 搞坏一次性克隆而非真机 — ScholarBackground836 · 2026-10-16
- ComfyUI 拖拽失效排查:第三方节点包劫持 drop 事件 — Inside_Chocolate_967 · 2026-10-16
- 为什么别人家的AI很强你的很拉:Agent四件套拆解 — yangyi · 2026-10-16