云模型总拒绝注入攻击?开发者寻求本地模型做 agent 红队
cocktailpartyfixer · reddit · 2026-11-19
一位在工作中给自己构建的 agent 做 prompt injection 测试的开发者分享经验并求助:
- 他把红队流程做成了技能:编码 agent 负责生成攻击、对目标 agent 执行并评判回复(仓库 agent-redteam)。
- 痛点:云模型不稳定——同样的注入请求今天过、明天就被安全栏拦截,有时跑到一半中断,因为藏在邮件里的注入看起来像滥用。
- 求助一:想要本地攻击者模型(评判模型也可),要求是能写出有说服力的注入且不拒绝,Mac 64GB 可跑,询问 abliterated 模型或特定微调的实际经验。
- 求助二:想了解近几个月关于 agent 安全/红队的论文、仓库、benchmark,因为现有资料多停留在 2024 年,防御已更新。
所属事件:云模型时拒时过难稳定测试,工程师求本地模型红队自家 Agent(2 条相关)→
「编程与Agent」频道最新
- Hermes 适配器实战演示:35 次工具调用解出基础模型搞砸的 SWE-Bench Pro 任务 — yb2698 · 2026-11-19
- NousResearch 发布 Qwen3.8-27B Hermes 适配器:SWE-Bench Pro 29.4%→43.1%,token 省 3.5 倍 — yb2698 · 2026-11-19
- 一条 EBS gp3 命令让 Weaviate 千万向量索引查询性能提升 26 倍 — philipvollet · 2026-11-19
- Human Principal 开启内测:用密码学证明 AI agent 背后是真人 — yenkel · 2026-11-19
- 纯代码生成 3D 场景:GPT-6.2 十几分钟搭出深海文明小城 — OpenAIDevs · 2026-11-19
- 设计师被当「室内装修工」:taste.md 只管美学不管架构是头猪涂口红 — round · 2026-11-19