云模型时拒时过难稳定测试,工程师求本地模型红队自家 Agent

一位为公司自建 Agent 做 prompt injection 安全测试的工程师分享了他的红队工作流:让编码 Agent 自动生成攻击、对目标 Agent 发起注入并评判回复,将整个流程封装成可复用的技能。但由于云端模型对注入攻击内容时拒时过、行为不稳定,难以持续开展测试,他向社区寻求可在本地运行、不会频繁拒绝的模型方案,引发开发者对 Agent 红队实践经验的讨论。

2026-11-19 ~ 2026-11-19 · 2 条相关