LangChain 开放 agent 红队测试，重点找 agent 犯错场景而非安全漏洞

hwchase17 · x · 2026-10-21

LangChain 创始人 Harrison Chase 宣布向更多用户开放其 agent 红队测试（redteaming）功能，并邀请感兴趣者私信试用。他强调 "redteaming" 这个名字可能有些误导——这套工具的重点不是安全攻击，而是系统性找出 agent 会出错的地方。

从配图界面看，该工具可自动生成并验证假设：一次运行测试了 37 个假设中的 34 个，确认 9 个发现（8 个中等、1 个低危），覆盖 correctness（反事实/改写一致性）与 guardrails（误拦截、范围边界）等问题族，输出按严重程度分级的产品级报告。