云模型时拒时过难测注入,工程师求本地不拒绝模型红队自己的 Agent

cocktailpartyfixer · reddit · 2026-11-19

一位在公司做 Agent 安全测试的工程师分享了他的 prompt injection 红队工作流:让一个编码 Agent 自动编写攻击、对目标 Agent 发起注入并评判回复,整个过程封装成了一个 skill。

他的痛点是云端模型:同样的注入请求今天能过、明天就被安全护栏拦截,有时跑到一半突然被拦——云端厂商把藏在邮件里的注入样本当成滥用,即使目标是自己的 staging 环境。因此他想找本地模型(64 GB Mac)专攻「攻击者」一侧,要求是能写出有说服力的注入且不拒答,但不要求会写代码,并询问 abliterated 模型或特定微调版的实际使用经验。

他还问:大家靠什么跟上 agent 安全防御的最新进展?他发现多数资料停留在 2024 年,而防御手段已经迭代。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →