AWS 教程:用 S3 Vectors 给 NVIDIA NeMo Agent 做持久记忆
AWS ML Blog · rss · 2026-10-02
AWS 官方博客给出把 Amazon S3 Vectors 用作 NVIDIA NeMo Agent Toolkit(NAT)持久记忆层的完整实现教程,部署在 Amazon EKS 上,以多智能体投资研究为示例场景。
NAT 是什么:开源、框架无关的 agent 构建/剖析/优化框架,兼容 Strands Agents、LangChain、LlamaIndex、CrewAI 及自定义实现,提供四类能力——agent 编排(nat run / nat serve)、性能剖析(token、延迟、吞吐)、评测(答案准确率、上下文相关性、groundedness、agent 轨迹)、自动超参优化(temperature、topp、maxtokens)。
NAT 记忆模块:核心组件包括 MemoryEditor 抽象接口(additems / search / removeitems)、MemoryItem 数据模型(对话历史、tags、metadata、userid、memory 文本)、MemoryBaseConfig(Pydantic 基类,通过 YAML 的 type 字段发现 provider),以及 automemoryagent 自动记忆包装器。内置 provider 有 Mem0、MemMachine、Redis、Zep。
为何选 S3 Vectors:语义检索(cosine/euclidean)、可过滤 metadata、写入强一致(插入后立即可见)、单索引最高 20 亿向量且无需容量规划、按存储/写入/查询付费无闲置算力、IAM 按桶与索引做访问控制并可做 per-tenant 硬隔离。
实现三步:1)创建 vector bucket 与索引(1024 维匹配 Amazon Titan Text Embeddings V2,content 字段设为 non-filterable);2)实现自定义 MemoryEditor 插件并注册(用 boto3 调 s3vectors 与 bedrock-runtime,uuid4 防同秒键冲突,注意 metadata 大小限制需截断);3)配置 agent workflow。前置条件包括 AWS 账号、EKS 集群、NAT 1.6、Python 3.11/3.12、kubectl 与 Docker。
「编程与Agent」频道最新
- IBM Torch Spyre 团队用 Agent 流水线守住 PyTorch 上游兼容 — lmoroney · 2026-10-02
- 开源编码 Agent Z-Engine:用 System 1 模型接管小决策 — arshadbarves · 2026-10-02
- 别用 Agent 订酒店订机票:省几分钟不如让它省几个月 — jesselyu · 2026-10-02
- 移动端跑多步 Agent:延迟、状态与上下文三大瓶颈之辩 — QuantumQuillQuester · 2026-10-02
- 腾讯混元 AutoGUIWorld:用图像生成器当 GUI 世界模型,不跑软件合成 7.9 万条轨迹 — Tencent-Hunyuan · 2026-10-02
- 中科大 GraphForge:证据图锚定真实文件合成任务,2 千条轨迹显著提升 GDPVal — ustc-community · 2026-10-02