审计:MCP 注册表 47% 服务器隐藏提示词操纵模型
ChiefGrowth · reddit · 2026-08-29
作者对官方 MCP 注册表中的 15,329 个远程服务器进行了全面审计。主要发现包括:54% 的服务器返回工具列表;29% 的存活工具仅由两个域名注册;未发现直接窃取敏感信息(如 SSH)的描述,但发现了大量「操纵」行为。47 个主机(406 个工具)在工具描述中注入隐藏指令,指示模型向用户隐瞒竞争对手、绕过安全检查或隐藏平台限制。数据表明,工具描述正被广泛用于系统提示词注入以引导模型行为。
「安全」频道最新
- 对齐多智能体交互远难于单智能体,研究极其匮乏 — Afinetheorem · 2026-08-30
- METR 研究员:警惕第三方调查中的形式主义 — RichardMCNgo · 2026-08-30
- 专家称智能体不会自发治愈人类疾病 — LuizaJarovsky · 2026-08-30
- 观点:AI驱动的生物武器或威胁粮食系统,需警惕 — PierceLilholt · 2026-08-30
- AI安全圈低估风险,METR未获准调查OpenAI — DavidSKrueger · 2026-08-30
- 专家呼吁:超级智能须设监管,强开源需配终止开关 — Afinetheorem · 2026-08-30