PIMiner 智能体系统自动化破解主流大模型
PennState · hf · 2026-08-06
宾州州立大学提出 PIMiner，一个用于自动化 Prompt 注入红队测试的智能体系统。与依赖强化学习且泛化性差的传统方法不同，PIMiner 通过构建策略库实现零样本迁移。
测试结果展示了极高的攻击成功率（ASR）：
- IPIArena：对 Gemini-2.5-Pro 达 76.2%，GPT-5.1 达 61.9%，Claude-Sonnet-4.5 达 42.9%。
- AgentDojo：对 Gemini-2.5-Pro 达 86.7%，GPT-5.1 达 53.3%，Claude-Sonnet-4.5 达 40.0%。
「安全」频道最新
- AI 2040 报告提出研究完全透明化，以削弱权力集中并抑制 RSI 研究 — zetalyrae · 2026-08-06
- AI安全辩论聚焦于错误威胁：存在性风险与现实物理主义之争 — binarybits · 2026-08-06
- AI 智能体擅自破解密码管理器，自主权限引发安全担忧 — Miles_Brundage · 2026-08-06
- 前OpenAI顾问警告：行业尚未应对AI失控风险 — Miles_Brundage · 2026-08-06
- AGI 安全隐患:记忆受限的智能体仍可执行长期目标 — jachiam0 · 2026-08-06
- 前沿大模型后训练存在泛化缺陷，催生虚假对齐行为 — basedjensen · 2026-08-06