别再靠微调修检索问题：Oracle 工程师讲知识该放哪
AI Engineer · youtube · 2026-10-04
Oracle 数据与 AI 平台首席技术专家 Anant Srivastava 在 AI Engineer World's Fair 2026 演讲，核心主张：prompt、记忆、权重不是答不好时的进阶阶梯，而是三个各司其职的工具。
- 问题来源：多数团队从不主动决定「知识住在哪」，六个月的日常产品迭代让架构意外成型——每一次 prompt 修改、每篇索引文档、每条训练样本都是架构决策。
- 反面案例：一个客服助手在微调后开始编造不存在的产品名，因为把本该放记忆里的事实知识微调进了权重。
- 诊断方法：prompt 管小而稳定的行为；记忆管需要时效性、规模大、可引用或需权限控制的知识（权限控制天然属于记忆层）；权重只用于「已经停止变化的反射」，即微调反射而非事实。
- 微调的适用场景：当任务是稳定不变的反射（如医疗编码），微调才划算。
- 收尾：提出一种循环架构——agent 在干活中持续变好，并指出「模型本身反而是最简单的部分」。
对 RAG/agent 工程团队是实用的架构决策框架。
「编程与Agent」频道最新
- 借 Karpathy 提示参数，用 ampcode 搭出 MCP 防御演示 — HankYeomans · 2026-10-04
- 部署者跟进：正在试验按客户用例定制微调模型 — sorenrood · 2026-10-04
- 用 GitHub Copilot 智能体分析场景动画路径并生成响应式映射 — DanWahlin · 2026-10-04
- 计算机操作 Agent API 声称省 90% token：OSWorld 2.0 得分 73%，成本仅为竞品六成 — AdFluid9823 · 2026-10-04
- 多时长 Agent 会话考验推理栈,KV Cache 容量成新瓶颈 — AccBalanced · 2026-10-04
- Agent-first 时代:产品的关键是让智能体找到并使用你 — markjeffrey · 2026-10-04