90% AI Agent 把密钥拼进 Prompt,一次注入攻击就足以泄露凭证
sujingshen · x · 2026-10-14
Venice AI 的 Joshua Mo 在 AI Engineer 播客上指出,大多数 AI Agent 架构存在致命缺陷:把 Vault/1Password 里的 API 密钥和登录凭证直接拼进 Prompt,一旦进入模型 reasoning 上下文,就可能通过训练数据、恶意 tool call、prompt 注入或默认开启的可观测性日志链路泄露。
常见泄露通道:
- 可观测性管道默认记录完整 Prompt
- 凭证被喂进非确定性的推理层
- 工具集过度授权,暴露 15-20 个能力而实际只需要 1 个
Mo 给出的具体做法:把密钥从 LLM 上下文移入确定性的执行层、存储哈希标识而非原始数据、对加密载荷采用分片密钥托管(split-key custody)、要求厂商提供硬件证明推理确实私有运行。他也承认这并非万能——联网 Agent 仍可能通过外部 API 外传数据,机密 tool call 仍是未解工程难题。结论:评估 Agent 安全要看凭证流向和日志默认配置,而不是模型名字。
「编程与Agent」频道最新
- 654 个真实故障实证研究:RAG 配置问题如何诊断与修复 — _reachsumit · 2026-10-14
- 等不到 JetKVM Mini,博主入手 LuckFox KVM 给 AI agent 当远程眼睛 — TheZachMueller · 2026-10-14
- Airbnb 客服案例:可移植 Agent 技能实现 99.2% 流程等价 RAG — _reachsumit · 2026-10-14
- 上线前让 Opus 派 4 个子代理排查 20 项拖慢网站的性能问题 — MartinGTobias · 2026-10-14
- 全程用 Claude Code 纯聊天造视频，SpaceX 纪录片零剪辑软件完成 — xiaohu · 2026-10-14
- 用户痛批微软 Copilot Cowork：落后业界一年、问题一大堆 — koltregaskes · 2026-10-14