Claude Code 前产品负责人 Cat Wu:10 个高质量 eval 胜过上百个
aakashgupta · x · 2026-11-13
Cat Wu 曾负责 Claude Code 产品,现执掌 OpenAI 核心产品。她谈了对 eval 的看法:多数人过度纠结 eval 理论——轴编码、开放编码、生成上百个测试用例等,其实没必要。
她的核心主张:不需要几百个 eval,做出 10 个高质量 eval 更重要。eval 的价值在于帮团队量化目标、看清差距与进展;更重要的是在 eval 之上与团队协作推进。帖子还给出了一份 eval 学习路线图(理论、第一性原理、实战案例、Braintrust 与 Arize 等)。
「编程与Agent」频道最新
- 开发者观察:Fable 5.2 的设计品味已超过 Opus 5.5 — adonis_singh · 2026-11-14
- CodeRabbit 推出 AI 代码安全审查:深扫仓库、自动修漏洞、压噪音 — PrajwalTomar_ · 2026-11-14
- 一人用 MiniMax H3 做科幻剧:物体尺寸失控的解法是改写提示词 — BekesHarcos · 2026-11-14
- Elvis Saravia 分享免费 AI 论文工具:可对话论文并接入 MCP — omarsar0 · 2026-11-14
- Rust 开源刺绣软件 ZigZag 走红:AI agent 可经 MCP 直接设计绣花 — simpsoka · 2026-11-14
- Google Antigravity 上线 Gemini 4 Hydrogen 与 Orchestrator 混合调度 — minchoi · 2026-11-14