Agent 安全警报:推理端点就是数据边界,谁跑模型谁看你的记忆
krishnan · x · 2026-11-16
krishnan 的 agent 安全系列(6/7、7/7)给出两个关键判断:
- 攻击者的 agent 因为把完整上下文发给所指向的模型端点而暴露了整个行动。你自己的 agent 也一样——谁运营推理端点,谁就能看到 agent 的全部记忆与上下文。应把这条链路当作数据边界来对待。
- Amazon 式的修复思路是把 AI 应用、model gateway 和推理端点纳入与生产系统相同的管控,并监控异常支出。本周三个自查问题:谁负责 gateway?主密钥换过吗?哪些密钥设了消费上限?
「编程与Agent」频道最新
- $300 订阅跑出 $7492 用量:用户晒账单称值回 25 倍 — theteknosaur · 2026-11-16
- 开发者用 Claude Code 打造角斗士经营游戏,浏览器免费可玩 — StarDrifterG · 2026-11-16
- AI 编程实战:Rust 重写让 mcbench-lite 首启动从 71 秒缩至 1 秒内 — adonis_singh · 2026-11-16
- 爸爸用 Claude Max 打造儿子点子的游戏,双端上架成本不到 300 美元 — morganinuk2 · 2026-11-16
- 工程师:企业代码库难倒 AI 的不是代码,是人与流程 — _jaydeepkarale · 2026-11-16
- Anthropic 实测:智能体记忆关键在选择性遗忘,笔记法胜过全量存档 — The Decoder · 2026-11-16