Numan 用 LangGraph 打造合规 AI 健康教练，评估标准成关键
LangChain · x · 2026-10-20
英国数字健康公司 Numan 分享了其 AI 健康教练 Nu 的构建经验。Nu 服务于减重、激素、性健康等长期健康管理项目，用户每日使用，但所在医疗领域监管严格：agent 不能做医学诊断、开处方或做临床决策。
核心挑战与教训
- 团队最初沿用常见的「固定输入-期望输出 + LLM judge 打分」套路，但发现教练式对话没有唯一正确答案，回复是否安全取决于上下文。
- 单轮静态评测无法覆盖「跨多轮理解患者障碍再给建议」「患者施压时守住边界」等关键行为。
- 对整个数据集取平均分会掩盖具体的失败点。
最终结论：相比 agent 本身和自动化流程，评测标准的质量才是决定成败的因素——先把 eval 标准打磨好，才能既保证体验质量又不越监管红线。技术栈为 LangGraph + LangSmith。
所属事件:Numan 用 LangGraph 打造合规 AI 健康教练，评测闭环成关键(4 条相关)→
「编程与Agent」频道最新
- Garry Tan 力挺 Aside Browser：让 Agent 真正用好网页的解法 — garrytan · 2026-10-23
- 1Password 推出 Agent 专用登录方案，AI 可代登录却不接触密码 — AndrewSchmidtFC · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令，作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- 实测：不在 AGENTS.md 里写明的 MCP 工具，编码 Agent 不会用 — colinmcnamara · 2026-10-23
- 用开源模型+Claude 把一段网球视频变成世界级教练 — tweetsatpreet · 2026-10-23
- 132 个免费开源 AI Agent 与 RAG 项目合集，星标 1.65 万 — Arindam_1729 · 2026-10-23