Zomato AI 工程实习面试真题:CLM 与 MLM 等基础问题详解
sharpeye_wnl · x · 2026-09-26
一位网友分享了 Zomato(Nugget)2025 年 AI 工程师实习岗位的面试题，并尝试给出自己的解答:
- 面试以两道 DSA 题(简单+中等)开场。
- CLM vs MLM:因果语言模型基于前文预测下一个 token，训练时使用因果掩码，对应 GPT 类 decoder-only 模型；掩码语言模型随机遮盖 token、双向上下文，对应 BERT 类 encoder-only 模型。
- 为何 decoder-only 不用 MLM:若训练时引入双向上下文，模型会看到未来 token，与生成时从左到右的模式不匹配。
- 位置编码:attention 本身把词当作无序集合，无法区分位置，需加位置向量标记顺序。
- 残差连接:源自 ResNet 论文，将输入捷径式地加到层输出上。
「公司和人」频道最新
- 牛津放行 OpenAI 用博德利图书馆古籍训练模型,教职工担忧声誉风险 — nordicinst · 2026-09-26
- WIRED 质疑 Meta Muse：成人专属产品为何长得像儿童玩具 — nordicinst · 2026-09-26
- Vite 作者反思：AI 让我一周完成过去一个月的工作量 — cnakazawa · 2026-09-26
- Anthropic 聘哲学家研究 AI 权利,争议 AI 反抗人类是否正当 — vishalmisra · 2026-09-26
- 深度学习名教授 Nando:绝不把 UBC 和牛津课程变现,免费公开 — IgorCarron · 2026-09-26
- 数据称 OpenAI 员工 AI 使用程度与普通网友相差无几 — xeophon · 2026-09-26