双 4090 本地跑 Qwen3.6-35B 做 GitLab 代码审查，70% 评论被采纳修复
Professional-Pear351 · reddit · 2026-10-21
一位开发者分享了完全本地化的 GitLab 代码审查 agent:基于 LangGraph.js,用 sglang 在两块 4090(PCIe、无 NVLink、TP=2)上跑 Qwen3.6-35B-A3B 的 4-bit AWQ 量化版。
性能数据：
- 单流解码约 180 tok/s(50k 上下文)、160 tok/s(110k 上下文)，prefill 9-10k tok/s
- 8 并发时总吞吐 985 tok/s
实际效果：
- 每次审查平均 26 次 LLM 调用、约 230 万 tokens
- 已完成 1300+ 次审查，约 70% 的评论被作者采纳修复
- 能抓到 Claude Sonnet/Opus 写的代码里的错误，作者认为混用不同模型家族能获得不同视角
踩坑：本地模型重复循环是主要问题，防护栏可拦截重复工具调用，但仍有约 7% 的运行(847 次中 56 次)因模型自我循环而失败。
项目 MIT 开源，也兼容 Ollama、OpenRouter、Gemini 和 Groq。
「编程与Agent」频道最新
- EAU 框架：让用户模拟器、环境与策略共同进化训练 agent — UAlberta · 2026-10-21
- Meta 提出 Self-Credit：稀疏奖励下智能体 RL 的信用分配新解法 — meta · 2026-10-21
- Notion 揭秘模型路由器 Auto：复用 Elo 评测，成本比单个旗舰模型低 62%-93% — ivanhzhao · 2026-10-21
- 开发者搭自动化让 Agent 主动认领搁置已久的 PR 和 Issue — vikvang1 · 2026-10-21
- 防篡改 agent 日志仍不够：谁来做最终状态的独立复核？ — ZealousidealAct9661 · 2026-10-21
- 一条长提示词让 Claude 用 Blender 建成动画机械蜘蛛，首次尝试零修正 — sidahuj · 2026-10-21