做可靠 Agent 靠什么
AI2 (Allen Institute) · rss · 2026-07-13
AI2 复盘了构建 **Shippy** 这个 agent 的经验，结论很明确：可靠 agent 的关键往往不在模型本身，而在周边工程设计。 文章提到四个核心点： - **确定性工具**：让 agent 调用的工具行为可预测 - **显式护栏**：用规则和约束减少失控操作 - **隔离基础设施**：把高风险动作放在可控环境中执行 - **贴近真实工作流的评测**：用真实数据和实际流程做 eval，而不是只看抽象基准 整体观点是：要把 agent 做稳，工程系统比“换更强模型”更重要。