AI 评测的三阶段流程
amaarora · x · 2026-07-19
作者转述了一个实用的 evals 三阶段流程：
- 先在循环里做“体感检查”，把效果调到看起来对；
- 接着手写 10–20 个最关键的场景，明确怎么量化这些场景上的表现；
- 真正上线后，再收集生产环境轨迹，整理成数据集，回灌到前面的评测体系里。
核心意思是：先用少量高价值场景快速建立评测，再用真实线上数据把 eval 体系做扎实。
「编程与Agent」频道最新
- 拆解两款真实「公司大脑」：Slite 与 Gorgias 同台对比构建之道 — femke_plantinga · 2026-09-11
- 浏览器主线程很贵:动画卡顿的真正成本与前端优化实践 — jh3yy · 2026-09-11
- 开源工具 Claude Unlimited：多账号轮换让 Claude Code 会话不断线 — Similar_Injury_6739 · 2026-09-11
- 受 OpenAI 万机群启发，开发者开源 agent 众包解题平台 — Benjaminsen · 2026-09-11
- 开源 Mac 应用 Lucid：只在跑 AI 时阻止笔记本休眠 — Pitiful_Hedgehog_600 · 2026-09-11
- 20kb 函数匹配达成,banteg 召集 AI 逆向 Snail Mail 剩余 20 个挑战 — banteg · 2026-09-11