生产级 AI 系统约 7 个阶段,6 个与模型无关
Aiden_Tech_Ai · x · 2026-09-20
指出「我们在用 AI」通常被理解为一个黑盒,但生产系统实际接近 7 个阶段:清洗问题、向量化、检索上下文、重排、组装 prompt、运行模型、检查输出——其中 6 个与模型本身无关。
作者用检索错误举例:取回美国退款政策而非欧盟的,一个文档错了,下游每一步都「正常工作」——重排器排错块、prompt 正确组装、模型自信地生成看似可信的答案,什么都没崩,问题只出在输入。因此最后的输出护栏是唯一被设计来质疑前面所有环节的阶段。
另一要点:模型可能只占你延迟/成本的一小部分(约 91% 的延迟在模型之外的环节)。
「编程与Agent」频道最新
- px0 编辑器更新:git 状态流式推送,SSE 只查 3 个文件实现零轮询 — arpit_bhayani · 2026-09-20
- Google 自研面向 Agent 工作负载的开源编排器,重造有状态 Kubernetes — gaganghotra_ · 2026-09-20
- 复现 Jev 思路实测：选项乱序平均把准确率从 47% 提到 73% — WelcomeMysterious122 · 2026-09-20
- 吴恩达发布 1 小时智能体知识图谱免费课程 — irinarish · 2026-09-20
- Jev 为何可能终结文本提示词：毫秒级决策引擎重构生成式 GUI — dpopa · 2026-09-20
- 作者称 NoSpoon 智能体全自主生成内容,一条微短剧约 15 分钟完成 — Kyrannio · 2026-09-20