企业级智能体如何搭建
hugobowne · x · 2026-07-17
这篇分享讨论的是“真实企业级 agent 到底怎么搭”。作者采访了 Maven Clinic 的 staff AI engineer，核心结论是：**尽量把决定权从模型手里拿走，交给应用层规则和代码**。 ### 主要架构思路 - 在主 agent 看到请求前，先用硬规则处理提示注入、跑题和自伤等风险问题。 - 主 agent 只负责把请求路由到 4 个专门子系统之一。 - 每个子系统只暴露它需要的工具，整个系统大约控制在 15–20 个工具。 - 应用层直接注入已知状态，例如用户 ID，不让模型自己生成。 ### 评测与上线策略 - 可程序化检查的错误，用代码来判定工具调用和失败原因。 - 只有临床准确性、诊断边界这类“没有确定答案”的问题，才让 LLM 当 judge。 - 再由人来校准这些 judge 是否贴近真实对话。 ### 真实产品取舍 - 有些低成本错误可以接受，比如模型声称“自己是 Google 做的”，可以用字符串检查处理。 - 但如果错误会影响价值数万美元的医疗流程，就不能上线，哪怕能力看起来不错。 整体主题是：企业 agent 的可靠性，不靠把模型“调得更聪明”，而靠不断缩小模型可决策的范围。