质量 SaaS Octave 用 Bedrock 嵌入 20 亿文档，多租户隔离零泄露
AWS ML Blog · rss · 2026-10-21
AWS ML Blog 详解合规质量管理 SaaS Octave Reliance 如何在严格多租户隔离下构建 AI 基础设施。
背景：平台服务 14000+ 客户（医疗器械、制药、食品制造），覆盖 60% 以上全球财富 500 强，托管超 20 亿份投诉记录、CAPA、审计文档。任何跨租户数据泄露的监管后果远超 AI 收益。
反常识决策：团队第一周期不做单一 AI 功能，而是先建所有后续功能共享的水平基础平台，之后每个用例的部署时间缩短 50%。
四大张力
- 数据可用但绝不跨租户：向量库、检索、生成上下文全部按租户隔离。
- Agent 按请求用户身份执行，权限仅在执行期存在，拒绝静态凭据的共享 Agent 池。
- 应对不可信内容：按 OWASP LLM Top 10 防范邮件附件/扫描件中的 prompt injection。
- 20 亿文档嵌入要在单个工作日内完成最大租户的接入。
三层架构：Cohere Embed v4 做多模态多语言嵌入（省掉独立的图片与翻译管线）写入按租户划分的 OpenSearch；AgentCore Gateway 做认证与策略校验后送入隔离 microVM 调 Claude；Bedrock Guardrails 在输入和输出两端各过滤一次。
模型选型不用公开榜单，而用自有语料测试跨模态、跨语言检索的实际表现。
「编程与Agent」频道最新
- 研究智能体 Épi 刷新 120 项纪录,n-queens 常数区间缩小 84 倍 — dair_ai · 2026-10-21
- Compaction hooks 实战:保留末尾消息原文+摘要压缩,实现 agent 记忆连续性 — MoonL88537 · 2026-10-21
- 「空白输入框的隐性成本」：当操作负担经由语言重新回到用户身上 — _AustinCalvert_ · 2026-10-21
- DeepMind 论文：自进化 Agent 学新任务最快，忘掉旧知识也最多 — rohanpaul_ai · 2026-10-21
- arXiv 原文:《自进化 Agent 是持续学习者吗?》——可塑性代价是稳定性 — rohanpaul_ai · 2026-10-21
- PM OS、Team OS、Company OS:三层 AI 工作系统怎么搭、先搭哪个 — aakashgupta · 2026-10-21