Gemini CLI 增加议题分流评测框架与并行判分器
chadd28 · ghdev · 2026-07-25
为 google-gemini/gemini-cli 的 Caretaker Agent 议题分流管线补上了一套完整评测基础设施：
- 并行基准跑器：用 ThreadPoolExecutor + 隔离的 Git worktree 跑 golden issue 测试集，避免并发 checkout 互相干扰。
- LLM-as-a-Judge：通过 Gemini API，按 4 个维度、每项 0–2 分的 rubric，把预测出来的 Workable Specs 和 ground-truth Golden Specs 对比打分。
- 数据流与报告：从 Firestore 流式读取测试样本，通过 GitHub REST API 解析目标 commit SHA，并在 results/ 下输出结构化 JSON / Markdown 评分卡。
这条更像是 编码 Agent 评测工程 的具体实现，而不是单纯的功能说明。
「编程与Agent」频道最新
- Cognition SWE-2 用 KKT 对偶优化长度惩罚，一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- 首届 Three.js 大会落地巴黎，AI 正缩短从想法到原型的距离 — OdinLovis · 2026-09-11
- 观点：Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- GPT-6 Astra 用时 44 小时通关含敌人 Factorio,API 成本约 4500 美元 — liminal_bardo · 2026-09-11
- 投资分析师求教：如何用 Claude 搭建尽调 Agent 工作台 — Careless_Tie2286 · 2026-09-11