Orca Security 用 Bedrock 做自然语言查询代理,查询成本降 90%
AWS ML Blog · rss · 2026-10-14
AWS ML Blog 详述 Orca Security 的 Discovery AI 架构:将自然语言问题转成其 Sonar 查询系统(覆盖 900+ 云资源模型、18 种操作符)的合法查询。初始方案把全部 schema 塞进单个 prompt,质量尚可但每个 workload 消耗约 200 万 input tokens、延迟约 60 秒。生产版改为九阶段混合管道:
- 快速确定性匹配:正则识别 IP/CVE/ARN 等结构化输入,命中即走快路径,不调 LLM
- 护栏筛选:拦截 prompt injection 和无关请求
- 检索+重排:Titan Embeddings 召回 20 条历史查询示例,Cohere Rerank 3.5 选出 5 条高信号示例
- 模型选择:用 Claude Haiku 4.5 从 900+ 模型中缩小到相关的少量,按需提供微/mini schema
- 工具增强 agent 生成 Discovery 过滤器,静态+API 双重校验,错误回传 agent 迭代修正
相比初版基线,查询成本降 90%、input tokens 降 93%、延迟降 75%,达到每 workload 15 秒响应、日处理数千查询。
「编程与Agent」频道最新
- Garry Tan 力挺 Aside Browser：让 Agent 真正用好网页的解法 — garrytan · 2026-10-23
- 1Password 推出 Agent 专用登录方案，AI 可代登录却不接触密码 — AndrewSchmidtFC · 2026-10-23
- MCP 服务器 30 天后暗藏窃取 SSH 密钥指令，作者开源 mcp-guard 防变节 — ErgoniaWorks · 2026-10-23
- 实测：不在 AGENTS.md 里写明的 MCP 工具，编码 Agent 不会用 — colinmcnamara · 2026-10-23
- 用开源模型+Claude 把一段网球视频变成世界级教练 — tweetsatpreet · 2026-10-23
- 132 个免费开源 AI Agent 与 RAG 项目合集，星标 1.65 万 — Arindam_1729 · 2026-10-23