EMNLP 2026 教程：系统拆解 AI Agent 失效模式
ManlingLi_ · x · 2026-10-28
Northwestern 的 Manling Li 等人将在 EMNLP 2026（布达佩斯，10 月 28 日）开设 3.5 小时教程 Failure Modes in Agentic AI，系统讲清 agent 为什么会失败。
- 核心问题：Agent 部署速度远超社区刻画其失效方式的速度，错误级联、reward hacking、推理坍缩、记忆漂移、过度推理循环等故障缺乏统一词汇、可复现触发器和可比诊断。
- 四大维度：环境与基础设施（工具调用协议、RL 系统、token 掩码/再分词漂移、环境错误计责，harness 作为攻击面）、训练动态、测试时扩展与适应、评测与红队，安全贯穿全程。
- 讲者来自 Amazon、Google、Northwestern、UIUC；产出包括可复现触发器、诊断协议和可验证的缓解方案，资料已公开在 GitHub 页面。
所属事件:EMNLP 2026 开讲智能体失效模式教程，四阶段拆解(4 条相关)→
「编程与Agent」频道最新
- Matt Pocock 补充:该 PR 也是用 reducer 收拢复杂前端状态的范例 — mattpocockuk · 2026-10-28
- Matt Pocock 展示自研 /pr skill:流式编辑不再被覆盖的 PR 范例 — mattpocockuk · 2026-10-28
- 作者公开用 Claude 做 SEO 的完整流程,附 25 条实战提示词 — ayushtweetshere · 2026-10-28
- Amp 团队开发文化:先用提示词验证想法,再决定是否投入工程 — jobergum · 2026-10-28
- 作者称原则上能追平 Apache2 ACL 逻辑，不行就砍功能或换 nginx — jd_pressman · 2026-10-28
- 让 AI 找 vapache 漏洞：越挖越长尾，「不知道何时收敛才最可怕」 — jd_pressman · 2026-10-28