Agent 乱跑不报错只扣费?开源检测工具 DriftGuard 自动止损
No-Program-5087 · reddit · 2026-08-21
Agent 出问题时通常不会报错或抛异常，而是偏离任务默默消耗 Token。针对这一痛点，作者开源了 DriftGuard 库来检测 Agent 的“漂移”状态。
核心原理与指标
- Relevance (相关性)：输出内容是否仍与任务相关？
- Self-Drift (自漂移)：输出分布是否偏离了该 Agent 正常工作时的基准？
两个指标均基于 Agent 自身的历史数据计算，无需外部标准答案，实现无人值守监控。
工作机制与实测
- 检测器要求异常状态持续跨越 25 个窗口才触发警报，以避免误报（实测 600 步健康 Agent 零误报）。
- 漂移发生时（如第 200 步），平均延迟 28 步（至第 228 步）能发现并触发 Halt 指令止损。
使用限制与特点
- 默认使用词袋模型计算相关性，零成本、无依赖；若需语义级检测可替换为 Embeddings。
- 仅负责检测与停止，不负责修复 Agent。
- 适用于 Python 3.10+，完全离线运行。
「编程与Agent」频道最新
- 开源 Eidoverse：人与 AI 共居的浏览器持久世界 — repligate · 2026-08-21
- 用 Codex 剪辑视频：回答四个问题定义工作流 — gabrielchua · 2026-08-21
- AI 时代代码库重构：为 Agent 设计强约束与类型系统 — cedric_chee · 2026-08-21
- ChatLLM 智能体可识别代码 Bug 并持续学习 — SarahAnnabels · 2026-08-21
- 区分多智能体三种定义：编排、蜂群与仿真系统 — sebkrier · 2026-08-21
- 如果有 500 美元算力预算，你会让自主 Agent 构建什么？ — jomtiro · 2026-08-21