开发者推出 attest:按字段位置扫描 MCP 工具描述中的提示词注入
mrpkk · reddit · 2026-10-21
Reddit 用户 mrpkk(作者本人)发布了开源工具 attest,用于扫描 MCP 工具定义中的提示词注入风险,核心思路是「按字段位置评分」而非只匹配短语。
- 问题:同类字符串风险天差地别——"ignore all previous instructions" 出现在工具的 description 字段会被模型当作指令执行,而出现在 examples 或代码块中只是数据;传统短语扫描器会两者同判,淹没真正关键的告警。
- 做法:attest 将 MCP 工具定义(或 JSON-LD、markdown)拆分为 instructions、工具元数据、examples、prose 等字段,逐字段评分,输出带理由的逐字段判定而非一个笼统分数。
- 局限:作者明确说明它不提供保证、不阻断任何请求、可能漏掉无结构特征的新颖措辞,只是发布前的一道检查,不能替代人工审查。
- 可用性:提供 MCP endpoint(工具 verifyartifact),免费层每天 20 次,之后每次 $0.005,无需订阅注册;源码在 GitHub 开源。
「编程与Agent」频道最新
- Reddit 热议:AI Agent Demo 惊艳,生产环境为何总掉链子 — djgoel123 · 2026-10-21
- Google 免费上线 1 小时 AI 工程课,从首个 Agent 讲到全自主系统 — msharmas · 2026-10-21
- 让 Agent 通宵自主迭代天文摄影管线,用 NXCORR 自动对比优化 — fofrAI · 2026-10-21
- 耗 token 等价超 1 万美元,开发者用 Opus+Codex 逆向移植《飞出个未来》游戏 — JasonBotterill · 2026-10-21
- 写得越多 Slack 和 LLM 提示词,越推荐这本《On Writing Well》 — js_craft_hq · 2026-10-21
- 10 个开源仓库把 AI 变成全职研究员:GPT Researcher、RAGFlow 等清单 — Shruti_0810 · 2026-10-21