Baseten 工程师出书《Inference Engineering》附学习资源清单
kmeanskaran · x · 2026-09-06
Baseten 的 Philip Kiely 推出《Inference Engineering》一书，浓缩其四年在 Baseten 做推理服务的经验，覆盖从 CUDA 到 Kubernetes 的全栈生产级生成式 AI 服务，基于数十万字文档博客、团队专家访谈与客户对话写成，同时也是 Baseten 出版社的首本书。帖主还附上配套学习资源：100 Days of LLM Inference 系列等，称推理是 AI 中最有价值的领域但工程化仍处早期，新人可快速成为专家。
「Infra」频道最新
- NYT 调查：被制裁浪潮集团借美国子公司 Aivres 续购 Nvidia 顶级 AI 芯片 — ShakeelHashim · 2026-09-06
- 开源脚本让旧安卓变身 GPU 加速 Linux 桌面或智能家居服务器 — tom_doerr · 2026-09-06
- 两块"奶奶级"P40 跑出 48 tok/s：老显卡llama.cpp 调优实录 — Jumpy-Operation-4615 · 2026-09-06
- 3090+魔改64GB CMP 170HX 双卡跑 H3 频遇 OOM,求固定显存分配方案 — JustinPooDough · 2026-09-06
- Polygres 把 Postgres 变成 AI agent 的混合检索上下文层 — Scobleizer · 2026-09-06
- TCS 联手 TPG 拟投 74 亿美元,在印度建 1GW AI 园区 — emmanuelvivier · 2026-09-06