AWS 教程:用 S3 Vectors 给 NVIDIA NeMo Agent 做持久记忆

AWS ML Blog · rss · 2026-10-02

AWS 官方博客给出把 Amazon S3 Vectors 用作 NVIDIA NeMo Agent Toolkit(NAT)持久记忆层的完整实现教程,部署在 Amazon EKS 上,以多智能体投资研究为示例场景。

NAT 是什么:开源、框架无关的 agent 构建/剖析/优化框架,兼容 Strands Agents、LangChain、LlamaIndex、CrewAI 及自定义实现,提供四类能力——agent 编排(nat run / nat serve)、性能剖析(token、延迟、吞吐)、评测(答案准确率、上下文相关性、groundedness、agent 轨迹)、自动超参优化(temperature、topp、maxtokens)。

NAT 记忆模块:核心组件包括 MemoryEditor 抽象接口(additems / search / removeitems)、MemoryItem 数据模型(对话历史、tags、metadata、userid、memory 文本)、MemoryBaseConfig(Pydantic 基类,通过 YAML 的 type 字段发现 provider),以及 automemoryagent 自动记忆包装器。内置 provider 有 Mem0、MemMachine、Redis、Zep。

为何选 S3 Vectors:语义检索(cosine/euclidean)、可过滤 metadata、写入强一致(插入后立即可见)、单索引最高 20 亿向量且无需容量规划、按存储/写入/查询付费无闲置算力、IAM 按桶与索引做访问控制并可做 per-tenant 硬隔离。

实现三步:1)创建 vector bucket 与索引(1024 维匹配 Amazon Titan Text Embeddings V2,content 字段设为 non-filterable);2)实现自定义 MemoryEditor 插件并注册(用 boto3 调 s3vectors 与 bedrock-runtime,uuid4 防同秒键冲突,注意 metadata 大小限制需截断);3)配置 agent workflow。前置条件包括 AWS 账号、EKS 集群、NAT 1.6、Python 3.11/3.12、kubectl 与 Docker。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →