Baseten 工程师免费开放《Inference Engineering》全书在线阅读

philipkiely · x · 2026-09-14

Baseten 的 Philip Kiely 将其专著《Inference Engineering》全文免费在线开放，并在全球读者晒书后表示深受鼓舞。全书定位为推理工程的系统指南：推理工程师需横跨 CUDA 到 Kubernetes 全栈，追求更快、更便宜、更可靠地服务生成式 AI 模型。作者回顾了行业变迁——ChatGPT 发布时全球可能只有几百名推理工程师，集中在 OpenAI、Anthropic、Google、NVIDIA 等少数公司；而三年后，Hugging Face 上开源模型已超过 200 万个（是五年前的 25 倍），从 Mistral、Black Forest Labs 到 Qwen、DeepSeek、Z AI、Moonshot 都在持续开源各模态模型，推理工程已不再是巨头的专利。