「Inference Engineer」成新热招岗位：端到端模型 serving 人才稀缺
yoavgo · x · 2026-09-25
yoavgo 提问：普通公司为什么要自己做大型模型推理？由此引出一个正在兴起的岗位——Inference Engineer。
该岗位要求端到端负责模型 serving：深入理解模型、量化、压缩与速度，同时具备大量 devops 能力、端侧硬件与 CUDA 功底，并能对接 neocloud 与模型服务商。过去这一角色分散在 ML researcher、engineer 和 MLOps 之间，如今变得足够大且重要，需要专人负责。
所属事件:Inference Engineer 成热招岗位，开源自托管推理兴起(3 条相关)→
「公司和人」频道最新
- 黄仁勋播客表态：否认 ASI、呼吁加大安全投入 — TheZvi · 2026-09-25
- 黄仁勋播客翻车:坚称无超级智能,却被 Zvi 指逻辑自相矛盾 — Don't Worry About the Vase (Zvi) · 2026-09-25
- Yoav Goldberg 谈推理工程师真功夫:KV 缓存、通信、负载均衡才算入门 — yoavgo · 2026-09-25
- Ed Zitron 质疑 Anthropic 营收年化算法，孙正义称 AI 实验室必须上市 — whurley · 2026-09-25
- 里斯本 AI 周黑客马拉松：整日 Vibe Coding 带奖金对决 — dscape · 2026-09-25
- 学者撰文解析 2026 年 tenure-track 教职求职生存现状 — mboehme_ · 2026-09-25