生产级 AI 应用仓库蓝图:从 API 到评测的完整工程分层
techNmak · x · 2026-10-08
techNmak 分享了一个他认为最实用、最贴近生产的 AI 应用仓库结构蓝图,覆盖 LLM 周边的全部工程环节,并给出各目录的清晰职责划分:
- api/:请求处理、类型化 schema、鉴权与限流
- application/:工作流、业务规则、预算控制与输出校验
- providers/:模型集成、超时、有界重试与取消
- security/:身份、租户隔离、访问控制与工具权限
- prompts/:模板、输入契约、模型配置与版本引用
- observability/:请求追踪、延迟、错误、模型用量与成本
- evals/:版本化数据集、质量检查、held-out 验收测试与生产抽样评测
- tests/ 与 deploy/:单元/集成/安全/失败路径测试,构建、健康检查与安全发布
RAG、agents、缓存、工具执行、持久化和后台 worker 则按用例作为独立能力组织:检索重产品依赖 RAG,agent 应用重度依赖工具编排,互不强加同一架构。
作者强调:模型调用会超时,用户会请求未授权数据,prompt 改动可能在单元测试全绿的情况下悄悄劣化回答质量——应用必须自己处理这些情况,仓库结构本身不解决问题,但给每类职责一个明确的落点。建议从小处起步,按产品需要逐步添加能力。
所属事件:开发者分享生产级 AI 应用仓库结构蓝图(2 条相关)→
「编程与Agent」频道最新
- RSIGym 让智能体自我改进模型,Opus 5 以 0.4809 居首 — teortaxesTex · 2026-10-08
- Codex 周活达 4000 万,VraserX 断言将超 Claude Code — VraserX · 2026-10-08
- Dimillian 谈 macOS 开发:重开就全用 SwiftUI/AppKit 原生 — Dimillian · 2026-10-08
- 本地大模型+Tripo3D,一天做出四驱车风格 3D 赛车游戏 — lxfater · 2026-10-08
- 「能做不等于该做」：开发者吐槽 vibe coding 垃圾项目泛滥 — stefanjblos · 2026-10-08
- 告别看护式 Agent：Hugo Bowne 提出智能体软件工厂「需求层次」框架 — hugobowne · 2026-10-08