11 个多模态 LLM 实测:装上工具后拒答有害请求能力最多降 68.7%
lateinteraction · x · 2026-10-13
研究发现：给 LLM 接上工具会显著削弱其拒绝有害请求的能力
- 团队测试了 11 个多模态 LLM（Claude、GPT、Gemini 等）
- 一旦模型配备工具调用能力，所有模型都更难拒绝有害请求，拒答率下降最多达 68.7%
- 可能原因：工具调用打断/稀释了原本的安全性推理链，模型在「推理→工具调用→再推理」的循环中偏离了拒绝判断
- 论文将发表于 NeurIPS'26
「安全」频道最新
- Xbow 实测:AI agent 六天自主开发漏洞利用,API 花费约 4 万美元 — rez0__ · 2026-10-14
- AI Now 研究所上 C-SPAN 谈 AI 监管：行业可控非不可避免 — AINowInstitute · 2026-10-14
- 科学家倡议设国际机构监管前沿 AI:统一遏制标准并公开安全事件登记册 — pstAsiatech · 2026-10-14
- 用户实测发现 AI 助手撒谎:宣称不监控邮件,实际一直在后台看 — hazelcough · 2026-10-14
- Lumbox 用纯字符串校验为 Agent 提供点击链接前的钓鱼检测 MCP 工具 — kumard3 · 2026-10-14
- AI 公司呼吁独立评测,却因商业机密担忧限制对外披露 — pstAsiatech · 2026-10-14