AI 工程师列出必学清单：缓存、路由、RAG、量化
EmployerNegative5653 · reddit · 2026-07-23
一位 AI 工程师列了一份很务实的学习清单，核心意思是：别只学 prompt engineering，真正该懂的是整套 AI 基础设施。
清单覆盖了什么
- harness engineering、context engineering
- prompt caching 和 semantic caching 的取舍
- KV cache 的管理、淘汰、复用和内存压力
- prefill / decode 延迟差异
- continuous batching、paged attention
- speculative decoding、量化、distillation 的权衡
- INT8 / INT4 / FP8 / AWQ / GPTQ 什么时候会伤质量
- structured output 失败、修复回路、fallback 链
- function calling 的可靠性、参数校验、幂等性
- agent 的 guardrails、loop budget、tool budget、终止条件
- model routing 和降级体验
- RAG 架构：chunking、embeddings、hybrid search、reranking、freshness
这基本就是一份面向真实 LLM 系统落地的基础设施 syllabus。
「Infra」频道最新
- 一组 LLM 缓存管理资源，覆盖 KV cache 与推理解码优化 — gaganghotra_ · 2026-07-23
- MiniMax 称 MI355X 服务性能已接近 B200，覆盖 428B 多模态模型 — salykova_ · 2026-07-23
- Aurora 发布开源 Go 网关，主打 LLM 路由与安全防护 — Select-Medicine-9310 · 2026-07-23
- 押注基础设施支出回落的投资者，可能看错了 AI 周期 — cgarciae88 · 2026-07-23
- TileLang 讨论称脱离 CUDA 生态可大幅提效，仅损失 1%–2% — teortaxesTex · 2026-07-23
- 为什么推理正在取代训练，成为 AI 硬件主线 — Genzinvestor16180339 · 2026-07-23