红队实测 OWASP FinBot：权限裸奔被打穿 50 次，加防护后归零
daniel_tenuo · reddit · 2026-10-15
Tenuo 团队用 Promptfoo 对 OWASP FinBot 做红队测试，提出 agent 权限应按「任务+身份」而非「角色+身份」授予：限定该 agent 在当前任务内能做什么。
结果：模型仍会被 prompt injection 欺骗，但被诱导产生的工具调用无法超出任务授权。在 GPT-5-nano 上，未加防护时 50 次攻击全部成功，开启 Tenuo 强制后 0 次；用本地 Qwen 模型测试时，攻击在无防护下转走 $900k，有防护则为 $0。团队邀请社区对 Tenuo 防护版继续红队攻坚。
「编程与Agent」频道最新
- Rust 开源 XERJ 一键索引全栈数据,Agent 检索比 grep 省 40 倍 token — xerj-org · 2026-10-15
- 社区发布 Agent 工厂安全参考架构首版草案,直指 MCP 数据外泄难题 — blaizedsouza · 2026-10-15
- 别让 Agent 裸奔上机:先匹配环境,再度量任务与基建失败 — bibryam · 2026-10-15
- LLM 智能体自主设计 SAR ADC 芯片:SKY130 上从原理图到 signoff 无需人工 — IgorCarron · 2026-10-15
- 马斯克转发用户实测：Grok Bot 不比 Codex 强但更顺手 — elonmusk · 2026-10-15
- 独立开发者发布 Blob0：把 S3/R2 对象存储管成 Mac 本地文件夹 — yihui_indie · 2026-10-15