推理工程怎么入门?长文回应热门绿书《Inference Engineering》没讲的起点

kmeanskaran · x · 2026-09-08

一篇入门指南长文,回应近期在 X 上走红的 Philip Kiely《Inference Engineering》绿书。作者认为该书把 GPU 显存、batching、延迟、每 token 成本等零散问题整合成一个名字和一张地图,但没回答入门者的真实问题。

文章填补这个空白:推理工程领域是什么、包含什么、入行前需要什么、按什么顺序学、多少机器学习是真正必需的、这是独立职业还是现有工作的延伸。无代码、无 walkthrough,纯路线图性质。