一份生产级 LLM 应用仓库结构蓝图：九大目录各司其职
techNmak · x · 2026-10-08
作者整理了一套面向生产环境 AI 应用的仓库结构蓝图，核心是围绕 LLM 的工程职责划分：
- api/：请求处理、类型化 schema、鉴权与限流
- application/：工作流、业务规则、预算与输出校验
- providers/：模型集成、超时、有界重试与取消
- security/：身份、租户隔离、访问控制与工具权限
- prompts/：模板、输入契约、模型配置与版本引用
- observability/：请求追踪、延迟、错误、用量与成本
- evals/：版本化数据集、质量检查、验收测试与生产抽样评估
- tests/ 与 deploy/：各类测试及构建/健康检查/安全发布
RAG、agents、缓存、工具执行、持久化和后台 worker 作为独立能力层，可按需引入。作者强调：模型调用会超时、权限会越界、prompt 改动可能在不破坏单测的情况下悄悄劣化答案质量，仓库结构本身不解决这些问题，但为每项职责提供了明确位置，建议从小做起、按产品需要逐步加层。
所属事件:开发者分享生产级 AI 应用仓库结构蓝图(2 条相关)→
「编程与Agent」频道最新
- Sodabase 发布：自动检测并修复被 AI Agent 搞坏的 Supabase 表 — santiviquez · 2026-10-08
- 开发者指出 vibe coding 如买书不读:15 分钟出 PoC 后即弃 — MarcJSchmidt · 2026-10-08
- Claude Haiku 5.5 前端实测：加 Skills 后 UI 明显更精细 — aitrendz_xyz · 2026-10-08
- 15-20 分钟做出数月项目原型，用户实测 Haiku 5.5 原型能力 — aitrendz_xyz · 2026-10-08
- 无图像无视频模型，Claude Haiku 5.5 用纯代码逐帧生成 80 秒动画 — aitrendz_xyz · 2026-10-08
- Anthropic 官方多模型编排：Opus 当顾问、Haiku 并行蜂群、Sonnet 主写代码 — aitrendz_xyz · 2026-10-08