8GB显存下的子代理评测
soteko · reddit · 2026-07-17
作者在自己的 PHP AI 平台里做了一个**读代码库的子代理 benchmark**，目标是给主模型（文中提到 GLM 5.2）挑一个能在 **8GB VRAM** 上运行、专门负责搜索和编辑文件的辅助模型。 ### 评测设置 系统提示要求子代理只用只读工具（`read_file`、`list_dir`、`search_files`）探索代码库，并回答 Queue 子系统的关键文件路径、方法签名，以及从 enqueue 到 handler 的完整流程。 ### 结果摘要 - 多个模型都参与了同一任务对比，包含 `gemma-4-12b-it`、`gemma-4-e4b-it`、`qwen3.5-9b`、`ornith-1.0-35b`、`qwen3.6-35b-a3b@q5_k_xl`、`gemma-4-26b-a4b-it-qat` - 在前两轮 `--steps=6` 里，**ornith 1.0 35b**、**gemma 4 26b**、**qwen3.6 35b** 都拿到很高分，`qwen3.5-9b` 则直接失败 - 第三轮 `--steps=9` 还在继续做更高步数的对比（截图只展示到一部分） ### 这条帖子的重点 它不是在聊模型“参数大不大”，而是在展示：**如何为代码库内的子代理建立可重复的 benchmark，并据此选出更适合做检索/文件编辑的本地模型**。