AI 系统设计 19 大核心概念清单:从 KV Cache 到多智能体
blaizedsouza · x · 2026-11-19
一位博主整理了 AI 系统设计需要掌握的 19 组核心概念:LLM 基础与推理服务器、GPU/TPU 等 AI 硬件、Token/延迟/吞吐量、Prefill/Decode/KV Cache、扩展与负载均衡、缓存与 LLM 路由、Embedding 与向量数据库、RAG、上下文工程、流式与 AI Gateway、Agent 与工具调用/MCP/Agent 记忆、多智能体与 A2A、多模态与语音、安全护栏、评测与可观测性、成本优化、微调与推理优化,以及 AI 系统设计面试。目标是理解这些组件如何组合成快速、可靠、可扩展且低成本的 AI 系统。
「编程与Agent」频道最新
- FrontierRSI 发布:让 AI 智能体自己做研究,逼近递归自我改进 — techNmak · 2026-11-19
- 130,000+份SEC Form 144入库:比Form 4提前2天看到高管抛售 — virattt · 2026-11-19
- 18天144块H200,RadixArk开源27B模型把Terminal-Bench翻倍 — BanghuaZ · 2026-11-19
- 六种部署策略怎么选:滚动、蓝绿、金丝雀各有适用场景 — JeremyCMorgan · 2026-11-19
- Multi Agent Coordination Bench 发布:8 个 agent 协作反而不如单打独斗 — AlexGDimakis · 2026-11-19
- 开发者吐槽 AI 界面过剩:一个 claude 或 gpt 加文件系统就够了 — _AustinCalvert_ · 2026-11-19