用 CLI 测试 agent 决策是否合规
Original_Iron7191 · reddit · 2026-07-17
作者在做一个用于 **测试 AI agent 上线前决策正确性** 的小型 CLI。 他的痛点是：很多团队在改 system prompt、换模型或改工具后，agent 的决策行为会悄悄变化，直到真实用户受影响才被发现。文中举的失败场景包括： - 该拒绝的退款被批准 - 该升级处理的支持工单被遗漏 - 违反政策的贷款申请被放行 这个 CLI 的思路是：输入 system prompt 和期望政策，把 agent 放进测试场景里跑，检查其最终动作是否符合规则。作者还提到他在医疗分诊 agent 上测出过“没有正确建议疑似中风症状者立即就医”的问题，也测出过贷款审批误判。 他强调自己关注的是 **决策是否正确**，而不是对话是否自然；并表示 Coval、Cekura 等团队已在做语音/对话质量相关的工作，而他更关心 policy-level 的最终动作校验。