AgentForesight:7B 在线审计员实时拦截多智能体失误
jiqizhixin · x · 2026-10-17
Rutgers、UT Austin 与 Purdue 团队提出 AgentForesight(NeurIPS 2026),把多智能体系统的失败分析从「事后归因」改为「在线审计」。
- 核心场景:一个 agent 计划、一个搜索、一个写报告;搜索 agent 悄悄把预算 200 美元设成 300 美元,下游每步都完美执行,但整条流水线已偏离用户意图——没有单个 agent 犯明显错误,只是继承了错误前提。
- 做法:每步之后由外部 7B 审计模型读取至今的执行轨迹,决定继续放行还是报警,在任务被毁之前争取干预窗口。
- 与 post-hoc 归因的区别:事后归因在失败已锁定后才定位关键步骤;在线审计在错误提交的当下就标记,可在传播前介入(论文配图演示同一任务中,审计模型在第 3 步即拦截错误价格过滤器,最终产出正确报告)。
- 在 AFTbench 等评测上验证了有效性(正文截断,细节见论文)。
「编程与Agent」频道最新
- Claude 写了 Claude Code 90% 代码,Anthropic 却仍招 67 个研究岗 — robleclerc · 2026-10-17
- 动画团队用 LTX 开源权重定制 IC-LoRA,打通 2D 关键帧到成片流程 — lmoroney · 2026-10-17
- HQ 一周合并 200+ 项改动、发布 8 个桌面版本 — VibeMarketer_ · 2026-10-17
- 同时跑 30 个 subagent：开发者晒并行智能体工作流名场面 — NERDDISCO · 2026-10-17
- OpenAI 升级 GPT-6 Pro：响应更快，多 Agent 可并行分工任务 — OpenAI · 2026-10-17
- 一行 PowerShell 实现 11 秒截图转表格，作者零手写代码 — dfinke · 2026-10-17