AI agent 常把简单任务做偏,团队引入 Jev 监控防工具蔓延
alexcovo_eth · x · 2026-09-25
作者描述使用 AI agent 的一个普遍痛点:让 agent 做一个明确结果的任务时,它往往开始搭建额外的工具、扩大任务范围、验证本不属于目标的工作,看起来很忙却在偏离原目标,几小时甚至几天后才发现整个 agent 团队已经走偏。
作为对策,作者团队在 Hermes-Agent 中加入了 Jev 与 agent 并行运行,用于防止这种「工具蔓延」(tooling drift),并表示等积累更多数据后会进一步报告效果。
「编程与Agent」频道最新
- 浏览器端 3D 姿势编辑器 Pose Blueprint 开放测试 — OkConfusion6667 · 2026-09-25
- DigitalOcean 把分类模型做成 agent 工具，而非普通模型端点 — hardimanjames · 2026-09-25
- GitHub wiki 被指反模式:文档不进代码仓库,Coding Agent 无法维护 — TechPreacher · 2026-09-25
- 按 inode 缓存策略判断,eBPF 安全 agent 内核 CPU 开销降约 90% — JeremyCMorgan · 2026-09-25
- 用 LLM 从 Git diff 挑选需运行的测试,jev-test-impact 开源 — alchemist-301 · 2026-09-25
- 天文学家用 Opus 5.5 花 5 小时做出新手学习工具并上线 — niloofar_mire · 2026-09-25