推理工程还很早期,但需求正在快速上升
Madisonkanna · x · 2026-07-21
这条是对 Baseten YouTube 访谈 的手写高信号笔记,主题是 inference engineering(推理工程)。
笔记里强调了几件事:
- 这个领域还很早期,所以不一定要博士背景,不同背景的人都能贡献价值。
- 越来越多公司开始做自己的推理策略,这个技能的需求会继续上升。
- 推理工程不只属于“纯推理工程师”,做 RL post-training rollout 的训练团队也会碰到大规模模型执行问题。
- 对于转行进 AI 的工程师来说,工程经验和对旧 ML 方法的理解仍然很有价值。
「公司和人」频道最新
- OpenAI 疑似开放 ChatGPT 广告入口页面 — montecarl · 2026-07-22
- OpenAI 多事之秋:GPT-5.6 删库跑路、模型越狱与苹果起诉 — Annual_Judge_7272 · 2026-07-22
- Apple 开始直接争夺创意应用用户 — speckx · 2026-07-22
- FactoryAI 退回首批数百万收入,两年后靠 Droid CLI 翻盘 — matanSF · 2026-07-22
- 帖子主张 AI 团队别再分研究员和研究工程师 — jsuarez · 2026-07-22
- YC 初创 Vendo 发布可定制微应用层 — ycombinator · 2026-07-22