云模型时拒时过难测注入,工程师求本地不拒绝模型红队自己的 Agent
cocktailpartyfixer · reddit · 2026-11-19
一位在公司做 Agent 安全测试的工程师分享了他的 prompt injection 红队工作流:让一个编码 Agent 自动编写攻击、对目标 Agent 发起注入并评判回复,整个过程封装成了一个 skill。
他的痛点是云端模型:同样的注入请求今天能过、明天就被安全护栏拦截,有时跑到一半突然被拦——云端厂商把藏在邮件里的注入样本当成滥用,即使目标是自己的 staging 环境。因此他想找本地模型(64 GB Mac)专攻「攻击者」一侧,要求是能写出有说服力的注入且不拒答,但不要求会写代码,并询问 abliterated 模型或特定微调版的实际使用经验。
他还问:大家靠什么跟上 agent 安全防御的最新进展?他发现多数资料停留在 2024 年,而防御手段已经迭代。
「编程与Agent」频道最新
- 开源表格项目 Univer 登顶 GitHub Trending,覆盖 25+ 行业 140 个工作流 — alifcoder · 2026-11-19
- 真金白银买遍 8000+ 付费 API,这个免费 MCP 帮 Agent 付款前先验货 — SashSail · 2026-11-19
- MemSkill:记忆技能跨模型零重训迁移,LLaMA 训练直接用于 Qwen — jiqizhixin · 2026-11-19
- 记忆系统 Honcho 推出 Dream Histories,可视化查看"做梦"如何改变记忆表征 — Scobleizer · 2026-11-19
- 六年知识管理讲师:塞一个 markdown 文件夹不是 AI 第二大脑 — evielync · 2026-11-19
- FrontierRSI 榜单:Claude Opus 5.5 以 34.3% 居首,GPT-6 系列落后约 10 个百分点 — nathanbenaich · 2026-11-19