Uber CISO：给 AI 智能体建「内部威胁计划」，开源 ADR 实时监控
Claude (Anthropic) · rss · 2026-10-13
Anthropic 刊登与 Uber CISO Philip Martin 的访谈，核心观点：企业为员工做内部威胁监控，也应为 AI 模型建立同等机制。
要点：
- Uber 日均处理超 4000 万次出行与配送订单，安全团队早在 Claude Code 出现前就用 Claude 做威胁建模；如今 Claude Fable 可自行从代码、设计文档和工单历史中汇集上下文。
- Uber 使用 Anthropic 的 Enterprise Frontier Safeguards，保证触发安全护栏时数据不被 Anthropic 访问，处置权留在企业手中。
- Uber 开源了 AI Detection and Response（ADR）工具，对 agent harness 做实时遥测与实时干预，与 Anthropic 分类器输出共同接入统一检测环境；配合自建 LLM 网关构成整体 AI 安全架构。
- 防御优先级：一是贴近用户输入的实时检测与拦截（在模型调用危险工具前阻止）；二是持续发现模型涌现的新行为模式，将其转化为护栏，形成「约束催生新行为→再发现→再加固」的循环。
- 他预判未来每个服务都会有一个理解自身威胁模型的 agent，agent 之间直接互谈威胁模型。
「编程与Agent」频道最新
- Garry Tan 力挺 Aside Browser：让 Agent 真正用好网页的解法 — garrytan · 2026-10-23
- Monid 发布 Agent 工具真实用量榜：TinyFish 居首周处理 75 万次 — HeyAmit_ · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令，作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- 实测：不在 AGENTS.md 里写明的 MCP 工具，编码 Agent 不会用 — colinmcnamara · 2026-10-23
- 用开源模型+Claude 把一段网球视频变成世界级教练 — tweetsatpreet · 2026-10-23
- 132 个免费开源 AI Agent 与 RAG 项目合集，星标 1.65 万 — Arindam_1729 · 2026-10-23