文章

2025—2027 大模型算法岗题库与证据账本

更新至 2026-09-08:历史算法面经与 23 张知识缺口卡,附九月跨岗位样本入口和证据边界。

2026年7月26日 更新于 2026年9月8日 约 72 分钟

专题 大模型算法岗求职笔记 第 2 篇 / 共 13 篇

本文是个人求职工作区文档的发布版,更新于 2026-09-08(北京时间凌晨快照)。源文件托管在 GitHub 仓库 llm-algo-job-notes;历史章节保留各自证据日期,岗位状态见最新窗口日志。

最后核验:2026-08-29(第六轮增量:补 8.18–8.27 百度/阿里云/淘天 Agent 面经、美团 8.25 笔试,以及 RL 可学习性与 Judge 校准)

用途:配合《LLM 算法岗求职指南》使用。本文件记录“公开材料里出现了什么题”和新增知识缺口;主指南负责系统讲解。

重要边界:2027 届秋招已经进入正式批;“2027 届已发生面经”与“2027 自然年预测”必须分开。正文标有公司、页面/面试时间和证据等级的 2026 年样本是公开复盘;第 5 节未来题型仍只是预测。

岗位边界:只收基座/预训练、后训练/RL、Agent/RAG、多模态及与模型效果直接相关的数据/评测问题;纯推理引擎、CUDA/kernel、通信库、编译器、Serving 调度和硬件适配岗位不在目标范围。算法岗仍需掌握显存、KV Cache 和训推一致性的最低边界,因为这些会直接影响训练与 RL 实验是否成立。

1. 证据规则

1.1 等级

标记含义可以怎样用
B帖子自述为候选人亲历,且公司、岗位、日期或轮次较清楚证明“这场公开复盘声称问过”,仍不能推断全公司频率
B-日期/岗位/轮次不完整,来自合集,或账号带明显整理属性只进入候选题池,必须二次核验
A-JD公司官方或可追溯岗位描述判断技能方向,不能改写成真题
A-Tech原论文、官方实现、官方技术文档核验答案,不证明面试出现过
P对 2027 的预测只用于准备优先级,绝不计入历史题量

1.2 使用限制

  • 日期优先记录帖子明确写出的面试/届别;只有发布日期时写“页面日期”,不擅自当作面试日。
  • 问题全部是转述,不把帖子里的参考答案当权威答案。
  • 同一帖子的一组问题算一个公开样本,不按题数制造“高频”。
  • 公司、团队、岗位方向和候选人项目对题目的影响通常大于公司名。
  • 牛客内容无法独立证明作者确实参加过面试,因此这里使用“帖子自述/公开复盘”的谨慎表述。
  • 知乎机构号、培训号、CSDN/博客园汇编和搜索摘要默认只计 B- 候选线索;必须追到可识别的原帖才能升级。
  • 小红书内容平台和微信公众号的公开 Web 索引不完整。无法打开正文、确认作者和日期时不从图片或摘要抄题。

2. 公开复盘题目(主窗口 2025—2026;2.20 为窗口外画像样本)

2.1 字节跳动

BY-25-01|大模型算法一面|2025|B

来源:公开复盘,页面 2025-08-11

  • RAG 为什么选当前 embedding,相似度如何算,召回后为什么还要 rerank;
  • 知识图谱与 RAG 为什么可以同时存在,各解决什么问题;
  • SFT 数据如何生成,是否只对 response token 计算 loss;
  • 从公式和数据流解释 GRPO、组采样、advantage 与 reward 修改;
  • 手写 response-only SFT loss 和 temperature sampling;
  • 有序数组中目标值出现次数,要求二分定位左右边界。

BY-25-02|SeedLM 二面|2025|B

来源:公开复盘,页面 2025-04-02

  • Transformer decoder 与 LLaMA 的结构差异;
  • 正弦位置编码与 RoPE 形式相似,但注入 attention 的方式为何不同;
  • RLHF 全流程、Reward Model 类型和训练目标;
  • DPO loss 如何得到,有哪些可改进点;
  • 找数组中的唯一重复数;手写 MHA 并加入位置编码。

BY-25-03|26 届秋招三轮|2025|B

来源:公开复盘,页面 2025-11-01

  • 从原始数据到训练 batch 设计完整数据 pipeline;
  • GRPO 与 DeepSeek-R1 的分阶段训练、奖励设计;
  • 怎样把 RL 引入候选人的实际业务,而不是只复述论文;
  • Agent 项目的状态、工具、终态指标和失败案例;
  • 编辑距离;两轮均要求手写 MHA。

BY-26-01|27 届暑期大模型算法一面|2026|B

来源:公开复盘,页面自述为 27 届暑期

  • Agent 行为怎样做过程奖励;轨迹级 reward 如何分配到 token;
  • 长尾 rollout 拖慢 GPU 时,调度、截断、采样和训练目标怎样联动处理;
  • DAPO 与 GRPO 的 clip、采样和 loss aggregation 差异;
  • MoE 的 rollout 路由与训练路由为何不一致;GSPO 试图解决什么。

BY-26-02|TikTok 大模型算法实习一面|2026|B

来源:公开复盘,页面 2026-03-23

  • 数据合成方法与优化;数据标注方式与优化;
  • 数据混合怎样保证多样性;去重与多样性怎样平衡;聚类去重怎么做;
  • SFT 高质量数据清洗从哪些维度做;预训练数据下采样时怎样保持多样性;
  • 小语种数据怎样低成本合成;LoRA 相对全参微调的显存优势;
  • 手写”高精度开 n 次根号”。

一整场几乎全是数据工程;发帖账号用语模板化,题目具体可信但不据此推频率。

BY-26-03|豆包大模型算法一面|2026|B

来源:公开复盘,页面 2026-03-25

  • 知识库怎样构建;基于知识库的召回与作答全流程;文档类型;
  • 多路召回每路取多少、权重怎样设;单路与多路召回怎样对比评估;
  • 用 LangChain 还是从零搭,用了多少节点,大模型怎样调用;还了解哪些 Agent 框架。

一面完全围绕 RAG/Agent 工程链路,无手撕记录。

BY-26-04|大模型算法实习一面|2026|B

来源:公开复盘,页面 2026-04-14

  • 项目拷打(一个 RL 项目、一个大模型项目);
  • GRPO 有什么改进;GRPO 里 KL 散度怎么计算;
  • 手写最长无重复子串。

BY-26-05|番茄小说推荐大模型一面|2026|B-

来源:公开复盘,页面 2026-07-09,账号有整理属性

  • 推荐项目深挖;LHUC 独立建 Embedding 与复用主干 Embedding 的差异;
  • 新用户交互稀疏的优化;冷启动到用户 Embedding 主导的动态切换;
  • LayerNorm 在深网络中的作用;RankMixer/OneTrans 序列排序架构。

相邻推荐大模型岗;也是目前少见落在 2027 届提前批窗口(2026-07)的字节样本。

2.2 阿里巴巴与蚂蚁

ALI-25-01|淘工厂大模型一面|2025|B

来源:公开复盘,页面 2025-12-11

  • 推导 MoE 负载均衡损失,如何诊断和防止 expert collapse;
  • 推导标准 MHA/GQA 的 KV Cache 大小与 attention 复杂度;
  • 对比学习损失与重构损失怎样加权,如何证明不是拍脑袋;
  • Qwen 微调时 validation loss 震荡如何定位;
  • 激活量化溢出如何复现、定界和修复;
  • 多工具调用怎样用 DAG 并行调度;
  • 怎样设计实验区分知识幻觉和推理幻觉。

ALI-25-02|阿里控股机器学习|26 届秋招|B

来源:公开复盘,页面 2025

  • LoRA 应接在哪些线性层,rank 影响参数量、容量和稳定性的机制;
  • 少数据时怎样在全参 SFT、LoRA 和只做 prompt baseline 间选择;
  • DeepSeek-R1 的训练阶段与传统 RLHF 流程有何异同。

ANT-25-01|Agent 算法二面|2025|B

来源:公开复盘,页面 2025-11-30

  • system prompt 如何迭代,能否自动优化,如何避免在验证集上过拟合;
  • 用户意图不完整时怎样澄清、补全和安全拒绝;
  • 多用户并发时 memory 怎样隔离,冲突写入怎样保证一致性;
  • 微调样本如何筛选清洗,哪些质量问题会显著改变模型行为;
  • Agent preference pair 如何构造,怎样避免 chosen/rejected 的 shortcut;
  • vLLM/KV Cache 为什么加速,streaming 延迟超标时怎样取舍;
  • 工具调用怎样做超时、幂等、重试、失败反馈和人工升级。

ANT-25-02|网银 NLP 算法一面|2025|B

来源:公开复盘,页面含 4/25 一面时间线

  • token 到 embedding 的完整过程;
  • self-attention 与 cross-attention 的输入、mask 和使用场景;
  • pre-norm 与 post-norm;LoRA;
  • teacher forcing 带来的训练—推理 gap 如何缓解。

ALI-26-01|淘天(淘宝闪购)Agent 算法 27 届实习一面|2026|B

来源:公开复盘,页面 2026-04-30,约 60 分钟

  • 为何选 OpenAI Agents SDK 而非开源框架;
  • Human-in-the-Loop 与人工强制中断怎样处理;高风险在线环境的 Agent 异常管控;
  • Token 用量规模;长周期对话的历史管理;对比不同 Agent 产品的记忆机制;
  • 除 API 调用外的 SFT/模型层经验;你的 Agent 与他人的核心差异;
  • AI Coding 压轴:本地 AUC 92% 上线后 62%,从数据、标签、serving 三个维度分析原因并排序。

全程项目深挖、无笔试;AI Coding 允许用大模型完成,再追问思路。

ALI-26-02|通义多模态算法一面|2026|B

来源:公开复盘,页面 2026-05-09

  • 论文新增模块是否会破坏预训练能力,怎样规避;
  • 方法在更大模型尺寸上的泛化怎样评估;
  • Reward 机制设计与原理;不改架构能否达到论文效果;
  • 明确无手撕。研究向一面全部围绕论文与 reward 设计。

ALI-26-03|阿里国际 AI 算法(对话对齐)|2026|B-

来源:公开复盘,页面 2026-05-13,账号整理属性明显

  • GRPO 选型原因、优化目标与数学原理;奖励函数设计;RL 训练质量评估;Reward Hacking 案例;
  • Attention 复杂度;KV Cache、GQA、MLA、FlashAttention、稀疏注意力;推理慢的排查思路;
  • 手写 rand7 实现 rand10、浮点数组取整最小变化和、最长无重复子串。

ALI-26-04|阿里国际算法 27 届实习二面|2026|B-

来源:公开复盘,页面 2026-05-02

  • 是否考虑向量/图检索,避免每次调大模型;正负样本比例与效果;Prompt 设计方法;
  • Transformer 归一化实现方式;位置编码方案;手写快速排序。

ANT-26-01|蚂蚁 Agent 算法 27 届暑期一面|2026|B

来源:公开复盘,页面 2026-05-07

  • Agent 不适配其他手机机型怎样处理;日志为什么并发处理;
  • Coding Agent 产品响应速度为何随会话变长而变慢;
  • 自研 LangGraph Agent 中 VL 模型与文本模型怎样分工;
  • 向量库相似度计算的优化;Agent 的 harness 能力体现在哪;
  • 不同 Coding Agent 在创建 skill 时的差异;哪些 Agent 形态会被淘汰;
  • 场景题:设计”两个不同 Agent 产品互相对话”的系统方案,需要加哪些模块。

题面高度绑定 2026 年 Agent 工具生态(Claude Code、skill、harness),无手撕记录。

ANT-26-02|蚂蚁大模型算法实习一面|2026|B

来源:公开复盘,页面 2026-03-27,约 1 小时

  • Dense 与 MoE 区别;MoE 路由机制实现;
  • 验证集怎么选;SFT 方法;讲 PPO;RAG 项目;分类任务评测指标;
  • LoRA 原理、A/B 矩阵初始化、秩设多少;
  • 手写最小生成树。

ANT-26-03|蚂蚁 Code Agent 与 Agent 应用开发一、二面|2026|B-

来源:整理属性明显且带辅导导流的复盘,页面 2026-04-25

  • 工程级 Code Agent 处理项目上下文与代码生成的核心挑战;
  • 保障 AI 生成代码质量、安全、可控的系统方法;生成代码正确性验证与治理;
  • 上下文工程、RAG 与渐进式披露的关系。

帖内自造术语不作为行业事实引用;只进入候选题池。

ALI-26-05|淘天 Agent 算法一面|面试 2026-08-27|B-

来源:公开复盘(页面静态抓取不稳定,只保留已公开题纲)

  • pretrain/post-train 数据问题怎样诊断;任务怎样构造;
  • 统一 pipeline 与真实用户反馈怎样闭环;trajectory 怎样验证;
  • mid-train 与 post-train 的边界;业务算法什么时候值得自己训练模型。

ALI-26-06|阿里云 Agent 算法一面|页面 2026-08-27|B

来源:候选人公开复盘

  • 核心工作产出、验证方法、回头看怎样改;
  • Agent Loop;Harness 的安全、权限与长程早停;
  • 候选人没做过大规模 RL,面试官没有继续硬问——真实项目边界优先于背术语。

ALI-26-07|阿里云 AI Infra / Agentic RL 一面|面试 2026-08-23|B

来源:候选人公开复盘

  • OPD 的动机、过滤与“为什么不用学生错误轨迹”;process vs outcome reward;过程奖励偏差;
  • 多轮双层 reward;user simulator 设计与过拟合;转真人、A/B 与业务评测;
  • 冷启动和业务约束;verl AgentLoop。

岗位带 AI Infra 相邻属性,只作为高价值 Agentic RL 信号,不外推成所有 Agent 算法岗固定题库。

2.3 腾讯

TX-25-01|混元大模型|2025|B

来源:公开复盘,页面 2025-09-24

  • SFT 数据怎样构造,人工标注比例与数据量如何辩护;
  • Qwen3 的 thinking/non-thinking 模式是什么,怎样做非推理模式微调;
  • 是否量化,量化后与 prompt 直出的等预算基线差多少;
  • Qwen3/RoPE;最长公共子序列二维 DP。

TX-26-01|混元大模型算法一面|2026|B

来源:公开复盘,页面 2026-03-24

  • CKA 指标怎么算,用它评估对齐程度是否有效;
  • ModalityAdapter 模块设计、作用机制与消融;
  • 对比学习正负样本构造、难分样本处理、是否用困难样本挖掘;
  • 多 Loss(MSE+Contrastive+KL)组合理由;是否出现 loss 冲突;
  • 知识库是否静态、向量索引方案;医疗幻觉怎样避免与评估;
  • 车端部署推理框架选型对比与理由;14B 车端模型 SFT 数据构建与评测体系;
  • 车载 Agent 平台链路调度、多轮对话状态维护;Rewrite 模型输入输出、放检索前还是后、训练数据构造;
  • 场景题:摄像头+力传感器做驾驶员状态识别的多模态模型设计。

单轮题量极大,覆盖多模态、RAG、Agent、评测全链路。

TX-26-02|混元 TEG 实习二、三面|页面 2026-01|B-

来源:二面、三面,页面 2026-01-29

  • ZeRO-1/2/3 区别;ZeRO-3 微调 72B 模型的每卡显存估算及原因;
  • LoRA 原理与 A/B 初始化;RLHF 全流程;SFT 后为何还需 RLHF;GRPO 相比 PPO 的改进;
  • 微调数据构造、清洗与配比;手写最长无重复子串、零钱兑换 I+II。

与 2025-03 的一篇混元四轮复盘逐题高度重合,疑为搬运拆分;题型可用,但只按原帖计一个样本。

2.4 百度

BD-25-01|大模型一面|2025|B-

来源:公开复盘,账号存在整理属性

  • 从海量视频中检索相关内容:抽帧、关键帧、时序索引与 rerank;
  • InternVL2/VLM 训练流程,图片怎样变成视觉 token;
  • 估算图文 token 数、step 数和单 epoch 时间;
  • 为什么用 DPO,写出训练数据与 loss;是否训练显式 reasoning;
  • 零钱兑换并输出一组具体组合。

BD-25-02|提前批大模型二面|2025|B

来源:公开复盘

  • 多路召回的分数不可直接比较时,怎样训练和评估统一 reranker;
  • 召回融合怎样处理重复、来源偏置和某一路完全漏召。

BD-26-01|大模型 27 届暑期实习一面|2026|B

来源:公开复盘,页面 2026-04-06

  • GRPO 常用的奖励有哪些;
  • 上下文从 4-8k 到 128k 经历了哪些技术变化;
  • Agent 生态里 Skill 的定义;decoder-only 为何流行;
  • 模型量化;BF16 与 FP16 区别;常用优化器;U-Net 架构特点;手写快速排序。

“Skill 的定义”是 2026 年 Agent 生态新词直接入题的例证。

BD-26-02|大模型算法日常实习一面|2026|B

来源:公开复盘,页面 2026-04-17,约 80 分钟

  • Agent 属于问答/决策/执行哪类,边界怎样定义;哪些环节必须用大模型;只用规则、检索或模板 SQL 能否对标(Agent 必要性论证);
  • RAG:知识源(API 文档/日志/DDL/Wiki)各自处理难点;入库预处理每一步解决什么问题;chunk=512 的理由及与 128/1024 的权衡;“模型上下文长度”与”知识切片长度”的概念区分;Top-k 已召回正确证据但模型仍答错怎么诊断;证据冲突或不充分时的约束手段;
  • 为何 QLoRA 而非全量;SFT 本质在教什么(知识/风格/行为边界);DPO 的 chosen/rejected 怎样定义、差异过小的后果、怎样判断 rejected 是有效负样本;
  • LLM-as-a-Judge 的 rubric 硬门槛与加分项怎样划分;swap consistency 防什么;
  • 消融怎样归因 RAG/SFT/DPO/Judge 各自贡献;
  • 手写一道 DP;开放题:把 DPO+Judge 思路迁移到视频二创场景。

2026 上半年信息量最大的百度样本,接近一份 LLM 应用算法全链路考纲。

BD-26-03|大模型研发 Agent 方向一面|面试 2026-08-18,发帖 08-25|B

来源:候选人公开复盘

  • Prompt Engineering → Context Engineering → Harness Engineering 的区别;
  • 上下文接近窗口上限时怎样压缩;团队内部 RAG 怎样从零设计;
  • Coding Agent 的学习体系与重点;数据库索引/K 线表;
  • 手撕二叉树前序遍历与层序遍历;二面继续问 Tool Calling 与 C 端 Agent 架构。

“Claude Code 三层压缩”只记录为该场面试官用语,不提升为官方固定术语。

2.5 美团

MT-25-01|大模型算法两轮|2025/2026 页面|B-

来源:公开题目记录,账号存在整理属性

  • 已有 reasoning SFT 为什么仍需要 RL;达到什么条件才切换;
  • 7B 模型做 GRPO 时怎样估算权重、梯度、优化器、activation、rollout 与 KV 显存;
  • 标注质量如何量化,多源 SFT 数据如何配比;
  • thinking 开关对微调数据和部署有什么影响;
  • 字段提取任务的 reward 怎样避免格式投机;
  • reward hacking 如何发现;reward 先降后升有哪些可证伪解释。

MT-26-01|大模型 27 届暑期二面|2026|B

来源:公开复盘,页面 2026-04-21

  • Qwen 系列幻觉问题怎样处理;新版 Qwen 的推理模式切换机制;
  • 当下主流 Coding Agent 产品为何流行、彼此差别;是否用过 AI 编码工具;
  • MoE 原理、负载均衡方法、专家激活发生在 batch 还是 token 维度;
  • 手写:用 Python 实现一个 MoE 前向。

2.6 快手

KS-25-01|大模型岗位|2025|B

来源:公开复盘,页面 2025-09-02

  • next-token loss、CoT、Transformer、位置编码与 RoPE;
  • LoRA 初始化为什么常令一侧为零,rank 怎样影响效果;
  • MLA 与 MoE 的核心数据流;
  • 二叉树层序遍历。

KS-25-02|26 校招大模型一面|2025|B

来源:公开复盘,页面 2025-12-30

  • 8B 模型训练显存现场估算;
  • RAG 错答如何区分检索责任与生成责任,设计最小归因实验;
  • 通用指令、垂类问答和 CoT 数据如何配比与做消融;
  • 编辑距离。

KS-25-03|26 届校招大模型应用算法两轮|2025|B

来源:公开复盘,页面 2025-09-27,标题明确为 26 届校招

  • 一面约 50 分钟:项目与论文、MHA、RMSNorm 与 LayerNorm、KV Cache、推理加速、微调过拟合;
  • 手撕字符串全排列、二叉树序列化与反序列化;
  • 二面约 40 分钟:项目深挖、生成内容去重、超大词表 Softmax 加速、中文 Instruction Tuning 数据、LoRA 与 Prompt Tuning。

作者结尾带项目辅导推广,仍保留为单个候选人自述,不能据此写“快手固定两轮/固定题单”。

KS-26-01|NLP 算法实习|2026|B-

来源:2026-05-07 汇总页,含原帖入口

  • 基座模型怎样选,全参还是 LoRA;
  • 长尾样本是否重采样,复读与幻觉如何处理;
  • SFT 何时转 RL;视觉和文本用什么模块对齐;
  • 两数之和、三数之和。

KS-26-02|大模型算法校招一面|2026|B

来源:公开复盘,页面 2026-02-04

  • 预训练数据源与构建方法;电商领域数据怎样构造;预训练之后的 SFT 流程;
  • 介绍 DAPO;去掉 KL 约束并 clip-higher 之后的稳定性问题与解决;
  • Function-call 的训练方法与语料构建;
  • 推理慢的原因分析;剪枝量化与线上部署方案;
  • 手写最小回文串。

KS-26-03|大模型算法一面|2026|B

来源:公开复盘,页面 2026-04-22,后段付费

  • 为什么用 DPO,数据来源;DPO 为何常配合 rejection sampling 而非随机负样本;
  • DPO 数据为何最好来自上一版 checkpoint 的采样分布;
  • DPO 公式、πθ\pi_\theta 与 πref\pi_{ref} 的含义、β\beta 过大过小的影响;
  • GRPO 公式;实际使用中 πθ\pi_\theta 与 πold\pi_{old} 怎样处理;组内归一化 advantage 的原因;
  • 文档类 RAG 为何不一定按固定长度分段。

同作者二面帖未逐题核验,暂不计样本。

KS-26-04|大模型评测一面|2026|B

来源:公开复盘,页面 2026-04-10

  • 若公司做视频生成,初期怎样扩展评测维度、构建数据集、选 benchmark;
  • 国内外视频生成模型对比;项目里评测集怎样构建、为何选这些模型;
  • 手写合并两个有序链表。

疑与视频生成团队相关,原帖未点名具体团队。

另有两条候选池记录:Agent 开发算法岗,页面 2026-02-08,整理属性偏业务理解式提问;推荐大模型三面,日期不明问合成数据优缺点、离线与线上指标、推荐×LLM,手写最长回文子串并要求 O(n²) 优化到 O(n)。均 B-。

2.7 小红书

XHS-25-01|NLP 算法一面|2025|B

来源:公开复盘,页面 2025-08-12

  • 近期 LLM RL 技术,GRPO 原理与后续改进;
  • DPO、MoE、Qwen3;
  • RAG 缺少电商知识时怎样构建更新闭环;
  • 三数之和。

XHS-25-02|NLP 实习|页面发布于 2025|B-

来源:公开复盘;正文只写 10.16,面试年份不完全确定

  • 数据集如何构建与评估,怎样发现污染和泄漏;
  • 跨模态对齐、PEFT、多智能体协作;
  • SFT 与 RL 分别适合什么场景,怎样做公平对照。

XHS-26-01|大模型实习一面|2026|B

来源:公开复盘,页面 2026-03-31

  • Embedding 模型预训练/微调怎样提点;参数量与性能关系;蒸馏与量化经验;
  • RAG 低延迟问题;意图分类标签体系设计;query 改写是否用了 RL;query 质量怎样评估;
  • LLM 的文本理解会否降低对传统 embedding 模型的依赖;
  • 大模型在文本分类等传统任务上为何没有表现出涌现;
  • 手写:卡特兰数推导递推式并用 DP 实现。

XHS-25-03|大模型算法|页面 2025-12|B-

来源:整理属性明显的复盘,页面 2025-12-01

  • 生成评测方式;RAG 缺陷;输出一致性保证;R1 训练流程与原理;
  • DPO/PPO/GRPO 区别;SFT 与 RL 优缺点与适用场景;提示工程;幻觉抑制;多智能体协同。

2.8 拼多多 / Temu

PDD-25-01|大模型算法一面|2025|B

来源:公开复盘,自述面试时间 2025-11-08

  • Transformer;PPO 与 GRPO;attention 为什么除以 dk\sqrt{d_k};
  • 在 01 矩阵中寻找四角均为 1 的矩形,并分析不同做法复杂度。

PDD-25-02|Temu 搜广推/风控相邻岗,多轮|2025|B

来源:公开复盘,页面 2025-08-29

  • 大模型反欺诈系统怎样从开发到部署;Agent 框架与 prompt;
  • 交叉熵加正则项后的目标;恶意退款风险特征、IV 与 PSI;
  • 无重复字符最长子串、三数之和、最大连续登录天数 SQL。

这是一条相邻岗位记录,不能把其中所有问题都标成“基础模型岗真题”。

PDD-26-01|搜广推大模型一面|2026|B

来源:公开复盘,自述 2026-07-15

  • On-Policy Distillation 中 forward KL 与 reverse KL 各自的 mode-covering/mode-seeking 倾向;
  • PPO ratio 已经 clip,目标为何还要对 unclipped/clipped surrogate 取 min。

PDD-26-02|日常实习大模型算法一面|2026|B

来源:公开复盘,页面 2026-04-15

  • Pretrain 与 SFT 各自解决什么问题;多模态模型结构与常见坑;
  • SFT 数据业务化:怎样避免模板化、train/test 怎样去重;
  • 主流 Coding Agent 的记忆机制;检索多条相关内容的排序策略;
  • spec-driven 的 code agent;上下文压缩机制,压缩比例为何选 70% 而不是直接砍掉早期对话;
  • 无 coding。

PDD-26-03|大模型一、二面|2026|B-

来源:整理属性明显的复盘,页面 2026-03-14

  • 电商预训练数据的低质过滤与去重;
  • 训练不稳定排查:loss NaN、OOM、吞吐下降;
  • 长上下文处理;离线评测集构建;多模态质量评估;prompt 模板管理与版本化;
  • 手写:从 logits 实现 top-k 采样(重归一化与边界处理)。

2.9 京东

JD-25-01|大模型算法一面|2025|B

来源:公开复盘,页面 2025

  • LoRA 与 Prefix Tuning 如何选,电商微调数据与标签怎样设计;
  • GRPO/PPO 的目标和适用边界;
  • 长尾商品怎样影响向量召回,知识库更新怎样与库存状态保持一致;
  • Reflection 怎样区分知识缺失、检索失败和工具调用失败;
  • Toolformer 的自监督工具数据与 RLHF 有什么差异;
  • 多义词消歧;LRU。

JD-25-02|大模型算法校招二面|2025|B

来源:公开复盘,二面约 1 小时

  • 对照公式解释 DAPO loss 与 clip;
  • 为什么 GRPO 训练 MoE 可能效果不好;
  • 现场阅读一篇论文的 introduction 并解释;
  • 项目数据构建、训练、评测和失败实验。

clip-higher、dynamic sampling、token-level loss,以及路由/ratio/reward 的诊断框架属于 N5 和主指南中的准备展开,并非该原帖明确记录的逐项追问。

这两条属于模型算法/后训练/Agent/RAG,不是此前已删除的京东推理系统整理题单。

JD-26-01|大模型算法一面|2026|B

来源:公开复盘,页面 2026-02-04

  • 今年关注的生成式推荐论文;OneRec 的多模态 tokenizer 与语义 ID;
  • InfoNCE 温度系数;FAISS ANN 索引;正负样本与特征工程;
  • RoPE 与 ALiBi 对比;SwiGLU 原理及相比 ReLU 的优势;
  • attention 除以 dk\sqrt{d_k}、时间复杂度、多头;LoRA;模型蒸馏;扩散模型公式推导;
  • 手写最大子数组和,并追加输出该子数组元素。

生成式推荐与 LLM 混合的相邻岗记录,LLM 基础题占比高故收录。

JD-26-02|大模型算法实习一面|页面日期两源冲突(列表 04-15)|B-

来源:公开复盘

  • LoRA 加在哪些层、epoch 与学习率;RAG chunk 实现与优化;
  • 微调后文本重复问题;LoRA 注入领域知识;幻觉缓解;
  • loss 里做除法与学习率做除法是否等价;
  • QKV 线性变换的作用、为何需要 softmax;
  • 手写:s1 每次可把任意字母移到末尾,求变成 s2 的最少操作数(不可能返回 -1)。

2.10 滴滴

DD-25-01|校招大模型算法|2025|B

来源:公开复盘

  • 数据来源、构造、切分、RAG 检索和评测怎样形成闭环;
  • 多轮 message 中哪些 token 参与 SFT loss,mask 如何验证;
  • FFN 为什么通常先升维再降维;MHA/MQA/GQA/MLA;
  • PPO/DPO/GRPO 与 SFT loss;手写 MHA。

DD-25-02|26 届校招大模型算法二面|2025|B

来源:公开复盘

  • GRPO 与 DPO 的 loss、数据来源和稳定性差异;
  • 为什么偏好数据不能只做 KMeans,怎样兼顾语义覆盖、难度与多样性;
  • 同一 prompt 的多 response 怎样防止模式坍缩;
  • reward 与 token log-prob 的“语义一致性”不能直接画等号,应该怎样设计可证伪指标;
  • KL 失控时先检查哪些实现、数据和超参数;复读如何缓解;
  • 滑动窗口最大值。

DD-26-01|大模型算法实习一面|2026|B-

来源:公开复盘,页面 2026-03-24,行文过于工整疑经加工

  • 多 Agent 中心化调度下,子 Agent 接口设计与结果回流怎样保证稳定;
  • 纯 Prompt 范式的自动化评测体系设计;外部知识检索为何易”复述”而非独立推理,算法层怎么解;
  • 小样本量化指标场景为何选 LoRA 而非全参或 Prompt 工程;LoRA 高质量监督数据构造;效果、推理成本、训练开销怎样平衡;
  • Encoder 完整计算流、残差与归一化位置;MHA 公式与维度;
  • 除以 dk\sqrt{d_k} 的必要性(分布与梯度两个视角);固定与可学习缩放系数的稳定性;LN 优于 BN 的三个角度。

2.11 网易 / 网易有道

WY-25-01|有道大模型算法实习一面|2025|B

来源:公开复盘;标题自述面试 2025-01-23,页面 2025-01-24

  • 指令集构建、RAG 召回、LoRA 层选择与初始化;
  • top-k、top-p、temperature、beam search;
  • 对比学习 temperature 与解码 temperature 是否是同一概念;
  • CLIP/BLIP、PPO/DPO、Reward Model ranking loss;
  • 钥匙和房间。

WY-25-02|有道大模型算法实习|2025|B

来源:公开复盘;标题自述面试 2025-03-06,页面 2025-03-12

  • Reward Model 与规则 reward 的边界;
  • LLM-as-judge 比较模型胜率时为什么要交换答案顺序并多轮评估;
  • 怎样测位置偏差、长度偏差和自我偏好;
  • 预训练与微调;base model 为什么通常不能稳定对话;
  • 岛屿数量。

WY-25-03|网易大模型算法实习一面|2025|B

来源:公开复盘

  • 数据集怎样构建;分类任务 SFT 后概率更不确定的原因;
  • Reward Model 的训练数据、目标与 reward 来源;
  • on-policy/off-policy;为什么后训练中 SFT 与 RL 可能交替;
  • 零钱兑换。

WY-26-01|大模型应用一、二面|2026|B

来源:公开复盘,页面 2026-07-21,属 2027 届提前批窗口

  • 自注意力、位置编码、梯度消失/爆炸对策;全参与 LoRA/Adapter/P-Tuning 的选择;
  • 推理加速:量化、dynamic batching、FlashAttention;GPTQ/AWQ;
  • 长文本生成显存优化:KV cache 复用、PagedAttention、序列并行;
  • RLHF 偏好数据构造;灾难性遗忘;过拟合对策;
  • 对话质量评估:BLEU/ROUGE、人评、任务完成率;
  • 场景题:为音乐产品设计 AI 歌词生成系统(创造性与押韵);用 LLM 提升新闻推荐效率;游戏 AI 陪伴系统核心模块;
  • 垂域数据集构建原则;数据稀缺对策;线上性能瓶颈分层优化。

WY-26-02|大模型算法实习二面|2026|B

来源:公开复盘,页面 2026-03-16,约 1 小时

  • 写出注意力机制数学表达式;训练阶段 mask 的必要性与推理阶段的差异;
  • Transformer 与传统 seq2seq 对比;缩放因子作用;softmax 公式与数值稳定(上溢/下溢);
  • 提示词优化策略与评估;SFT 损失函数的作用范围;
  • DeepSpeed;7B 模型训练显存需求与 ZeRO 各 stage 节省量;
  • 多卡训练异常中断的处理经验。

2.12 OPPO

OPPO-25-01|大模型二面|2025|B

来源:公开复盘

  • 多 Agent 如何协调并约束子 Agent 输出;
  • Deep Research 如何拆任务、检索、反证、合成并停止;
  • 模型不遵循精确字数要求时,训练、解码和外部校验分别能做什么;
  • GRPO、DAPO 解决的问题;上下文工程。

OPPO-25-02|AI 算法工程师,大模型与智能体方向二面|2025|B

来源:含一面、二面和 HR 时间线的公开复盘

  • GSPO 与 GRPO 的 ratio/clip 粒度,为什么论文强调 MoE,Dense 模型能否使用;
  • Deep Research 任务拆解、reward hacking;
  • 为什么生成阶段跨步缓存 K/V 而通常不缓存历史 Q;
  • 字数约束失效如何定位。

两个 URL 可能来自相近招聘批次,按两个公开样本保存,但重叠题不据此声称“高频”。

OPPO-26-01|大模型应用一面|2026|B

来源:公开复盘,页面 2026-03-26

  • Graph-RAG 的优势与 Graph 在项目中的作用;训练数据内容冲突怎样处理;
  • 检索指标 Recall/MRR/Acc;LLM-as-a-Judge 之外还有哪些评测方法;
  • 专家对同一回复打分方差大怎么解决;
  • Agent 与 Memory 管理的常见模式。

2.13 智谱

ZP-26-01|Agent 算法一面|2026|B

来源:公开复盘,页面 2026-02

  • DPO 损失的直觉解释;GRPO 选型理由;tool response 的 loss mask 怎样处理;
  • KV cache 大小计算;参数量估算;讲 AutoGLM 论文;
  • 手撕不是纯 attention,而是“流式输入输出处理 + MCP 调用输出规范”。

Agent 工程化手撕替代传统模型手写的直接证据。

ZP-24-01|大模型算法 25 届秋招全流程|2024|B

来源:个人博客全流程复盘,面试 2024-08,获 offer

  • 数据集处理、评测方法与方案设计;训练用显卡资源与国产卡生态(910B + Mindformers);
  • 是否改过框架底层代码;GitHub 代码审查(共享屏幕看候选人历史代码);
  • encoder-decoder 分离的优势;
  • 手写括号匹配、合并两个升序链表、最长公共子串。

早于本题库主窗口,但是智谱目前唯一可核验的全流程强样本,保留作流程画像。

ZP-25-02|大模型算法日常实习二面|页面 03-16(年份未显示)|B-

来源:公开复盘

  • 数据集构造;长文本外推技术细节;
  • 大规模图上 GNN 应用;GNN 与 LLM 怎样结合;
  • 场景题:设计偏好对话模型。

ZP-25-01|大模型一面|2025|B-

来源:整理属性明显且带求职辅导导流的题单

  • 手写 tokenizer/RAG 伪代码;NL2SQL 多表策略;
  • PPO/DPO/GRPO、KL estimator;LoRA 与 P-tuning v2;
  • DeepSeek-R1 与 MLA;梯度问题;PyTorch parameter/buffer/no-grad。

B- 记录只用于发现候选题,不用于推断智谱面试频率。另有一条智谱 Infra 一面(页面 2025-09-18,TP/DP 协同、推理调度、KVCache 管理、C++ 手撕 MoE Dispatch)按推理引擎岗位边界不收。

2.14 B站

BILI-25-01|大模型二面|2025|B

来源:公开复盘,页面 2025-09-15

  • 从理论角度分析为什么采用 DPO;β\beta 的含义;DPO 训练不符合预期怎么办;
  • PPO 奖励稀疏怎样处理;DPO 实现难点(数据与模型两个维度);
  • on-policy 与 off-policy 区别;DPO 损失函数。

单轮 DPO 理论专场;同账号一面帖未逐题核验,暂不计样本。

BILI-26-01|LLM 实习 Agent 方向复盘|2026|B-

来源:二手转述(作者访谈候选人),页面 2026-05-03

  • 多 Agent 协同的完整工作流设计;文献检索与 DeepResearch 的区别、query 扩展、PDF 解析与去重的代码级细节;
  • 主/子 Agent 是否共享 context、何时共享;LLM 工具调用完整实现链路;
  • 多步 Agent 回复怎样做渐进式披露避免信息过载;编排框架的坑与解法。

2.15 荣耀

HON-25-01|大模型算法一面|自述面试 2025-11-11|B

来源:公开复盘

  • 传统 RL 与 LLM 的结合:SAC 策略与 top-k 解码的对比;DQN 用于大模型工具选择;
  • 训练输出全 0/全 1 怎样解决与改进;
  • LoRA 微调的缺点;PPO 算法的缺点。

候选人反问得知该大模型平台部门主做 Agent。

HON-26-01|大模型算法实习一面|2026|B

来源:公开复盘,页面 2026-04-28

  • 数据构造策略、评估指标与验证方法;训练框架与显存优化手段;DP/DDP/TP 区别;
  • RL 奖励函数设计方法;GRPO 与 PPO 区别;明确无手撕。

2.16 vivo

VIVO-26-01|大模型多模态算法|2026|B-

来源:公开复盘,页面 2026-04-20,题量过全疑经整理

  • Agent 框架、整体工作流与执行范式;多路召回后粗排与二阶段 rerank;图文多模态特征融合;
  • VQA 数据的 Query/Answer 怎样生成;工具调用监督数据(GT)怎样获取;数据生成后怎样校验过滤;
  • 微调还是 RL 的选型原因;Reward 设计;RL 目标是端到端还是单步决策;Reward Hacking 及解决;
  • GRPO 重要性采样的数学意义;KL 系数等超参调优;多轮任务端到端训练设计;
  • 复杂/多意图 query 的准确率评估;首 Token 延迟与系统性能因素;attention 公式与 dk\sqrt{d_k}。

2.17 车企(理想 / 蔚来 / 小鹏)

LI-26-01|理想视觉基座大模型日常实习一面|2026|B

来源:公开复盘,页面 2026-06-25

  • 微调大模型、BERT、prompt 工程三者差异与各自适用场景;
  • LoRA rank 怎样设置;样本数据集构建;模型瓶颈定位;论文拷打;
  • 手写:用 PyTorch 手写 Transformer。

NIO-25-01|蔚来大模型算法日常实习|2025|B

来源:公开复盘,页面 2025-11-14

  • RAG 分块方法与写入机制;Embedding 维度选择合理性;索引配置;为何上 RLHF;RAG 评价指标体系;
  • DPO/PPO/GRPO 对比;价值模型与奖励模型区别;奖励模型是否要求可微;PPO 中 action 的定义;
  • 手写 Tokenizer(原题,候选人未完成后换反转链表)。

XP-25-01|小鹏 NLP 大模型二面|2025|B

来源:公开复盘,页面 2025-08-25,自述零八股

  • 实习拷打:数据构造、微调细节、RL 具体实现;
  • 场景题:用户诉求模糊时的处理策略、怎样尽量避免反问;
  • 手写:有序数组(后项大于前项两倍)中判断两数之和是否存在。

XP-25-02|小鹏大模型算法一面|自述面试 2025-08-27|B

来源:公开复盘

  • RoPE 原理;位置编码为何能直接加到 embedding 上;BN 与 LN 区别;PagedAttention;
  • 压测下怎样评估推理系统吞吐与 QPS;
  • 手写 O(1) 额外空间的洗牌函数。

XP-26-01|小鹏多模态大模型|2026|B

来源:公开复盘,页面 2026-03-03

  • PPO/GRPO/GSPO/DAPO 的区别与各自优化点;
  • 投机采样与 rejection sampling 公式;vLLM 与 PagedAttention(问得较浅);
  • InternVL、QwenVL、Qwen-Omni 等多模态模型;国产卡优化讨论;
  • 手写最长回文子串。

2.18 米哈游

MHY-26-01|大模型算法日常实习一面|2026|B

来源:公开复盘,页面 2026-03-18

  • 讲解 MLA 与 GQA;RoPE 是什么、为何能体现相对位置、缺点、怎样外推;
  • 手写 GQA(允许联网查函数)。

MHY-26-02|大模型算法实习二面|2026|B-

来源:公开复盘,页面 2026-03-21,前半部分问题泛化疑经扩写

  • RewardBench 中奖励模型的分类;奖励模型训练方法/目标与 DPO 的改进关系;
  • DPO 损失函数与训练目标;大模型安全理解。

2.19 携程与 Shopee

XC-26-01|携程大模型算法开发一面|2026|B

来源:公开复盘,页面 2026-03-30,后段付费

  • LoRA 原理、初始化方法与关键参数;QLoRA 与 LoRA 区别;
  • DeepSpeed ZeRO 三个阶段各做什么;FSDP 与 ZeRO-3 的差别;
  • RL 在大模型对齐里的一般框架;PPO/DPO/GRPO 区别;
  • PPO 中 critic model 的作用;PPO 训练 KL 发散了怎么处理。

SP-26-01|Shopee 大模型应用算法|2026|B-

来源:公开复盘,页面 2026-03-30

  • RRF 与 BM25 的权重配置;RAG 端到端满意度评估方案,为何不对检索/生成分别评估;
  • 意图理解、query 改写与路由机制;DPO 数据配比;对 GRPO 的理解、为何不用 GRPO;
  • 排序阶段为何不用更强 reranker(推理性能与资源约束,计划蒸馏迁移);数据飞轮怎样落地;skills 的优势;
  • 手写一道简单 DP。

2.20 大模型独角兽与其他 AI 公司(2024—2025 样本)

以下样本早于本题库 2025—2026 主窗口或信息不全,用于公司流程画像与候选题池,不与主窗口样本混计。2025—2026 窗口内这些公司的新增题目级亲历帖仍然稀少。

XM-24-01|小米 NLP 算法 25 届秋招(大模型方向)一、二面|2024|B

来源:公开复盘,一面 2024-10-12、二面 2024-10-18

  • YaRN、位置内插、NTK 等长文本扩展技术;FlashAttention 原理与解决的问题;RoPE;
  • BPE/WordPiece/Unigram LM 分词对比;长文本效果评测方法;SFT 阶段的困难;
  • 手写跳跃游戏、字符串解码。

XM-24-02|小米(武汉)大模型算法实习二面|2024|B

来源:公开复盘,页面 2024-04-18,约 50 分钟,后获 offer

  • RAG 项目拷打:embedding 模型结构与输出维度、文本切分、LoRA 微调参数、幻觉缓解;
  • Transformer 结构、输入向量维度、除以 dk\sqrt{d_k} 的作用、LayerNorm 归一化维度;
  • 手写反转链表(先允许用列表,再要求不用列表)。

MM-24-01|MiniMax 大语言模型算法 25 届秋招一、二面|2024|B

来源:公开复盘,一面 2024-07-24、二面 2024-07-31

  • 手写单层 MLP 做回归与二分类;手写 Beam Search;
  • 实习方法细节;数据集构建细节;
  • 开放题:长文本翻译模型的数据集怎样构建。

MM-24-02|MiniMax 大模型实习一面|2024|B

来源:公开复盘,页面 2024-03-11

  • 数据增大效果会更好吗,有什么改进和想法;手写线性回归。

另一条”MiniMax 大模型搜索架构一二面”经核验实为后端岗(线程池/协程/限流器),不收;一条星球整理属性的一二面题单(GLM 与 GPT 区别、P-tuning/LoRA、DPO 与 PPO 数据选择差异、TopK 排序等)计 B- 候选池。

ST-24-01|商汤多模态算法实习二面|2024|B

来源:公开复盘,页面 2024-04-08,约 55 分钟

  • Diffusion 应用细节;为何选 StyleGAN;UNet、ResNet、CLIP;
  • LoRA 具体实现与训练参数;P-tuning v1/v2 细节;LLaMA 损失函数;
  • DDP 与 DeepSpeed 区别;多分类单标签分布问题排查(含 PyTorch 代码改进);
  • CLIP 位置编码外推能力;是否自己实现过 Dataloader。

注意:网上存在逐条复制本帖并卖课导流的整理号文章,不重复计数。

XF-25-01|科大讯飞 NLP 实习一面|自述面试 2025-02-28|B

来源:公开复盘,约 30 分钟,后获 offer

  • 指令集构建方法与来源;CoT 指令集构建方式;
  • RAG 中 embedding+rerank 的必要性;是否训练过自定义 embedding 模型;
  • 为何选 DPO、与其他 RL 算法对比;GRPO 了解程度;LoRA 原理。

KL-24-01|昆仑万维 NLP/CV 算法实习一面|2024|B

来源:公开复盘,页面 2024-04-03,约 35 分钟

  • 实习中大模型相关工作;微调用什么框架;是否做过全量微调;拆分单词算法题。

BC-24-01|百川行业大模型算法一、二面|2024|B

来源:公开复盘,页面 2024-03-26

  • 一面 20 分钟只介绍简历加反问;二面 17 分钟纯聊天无技术问题。

只证明当时流程松散,对题库无贡献;不外推到当前流程。

面壁智能仅有一条届别不明、导流明显的三轮题单(Adam 自适应学习率、LN 与 BN、分布式训练、最小缺失正整数),计 B- 候选池。

2.21 华为、DeepSeek、月之暗面证据现状(2026-07-30 更新)

华为:2025—2026 窗口内仍无同时满足”盘古/大模型算法岗 + 日期/届别 + 候选人逐题复盘”的强样本,不伪造公司题库。新增两条旁证:

  • 云 BU AI 大模型应用岗三连面,自述面试 2023-12-04:项目全流程拷打、Transformer 架构、手撕 K-means/KNN/排序/树题,B(早于窗口,只作流程画像);
  • 笔试侧 AI 岗机考题型已两次改版(2025-08 公告改为”10 客观 + 2 编程”,2026 年已是”20 选择 + 2 编程”且编程题 LLM 化),场次与题目骨架见作战手册。

原有两条相邻岗位线索保留:AI 工程师实习,页面 2025-06-28(B-);线下面试算法岗,页面 2025(机试、最长和为目标值的连续子数组、模型不达预期定位,B-)。

DeepSeek:仍无同时满足“明确大模型算法岗、候选人亲历、面试时间和逐题正文”的 2025/2026 强样本。官方当前招聘页可以确认岗位覆盖预训练、后训练、多模态、预训练数据、AI 搜索、Agent Infra、训练/推理框架和系统方向;这只属于 A-JD,不能写成 2026 届统一校招或真实面题。三条弱线索:

  • 算法岗笔试考点帖,页面 2025-03-23,非亲历:手写完整 MHA、DPO 全流程推导、MoE 通信开销与负载不均分析(另有推理引擎内容超出边界),B-;
  • 2026-06 社招 AI 工程师流程的媒体报道(候选人对媒体一手自述):笔试为编程题加单选多选;两轮远程 coding,面试官当场逐行审代码、远程监考严格,B-;
  • 2026-07-12 Agent 开发岗 3 小时机考已出现(题目骨架见作战手册),说明其校招/社招流程正在体系化。

月之暗面/Kimi:一条社招大模型一面线索(约 40 分钟狂问项目、prefill/decode 两阶段)因登录墙仅摘要级;一条 2024-09 校招复盘仅有轮次无题目。仍无强样本,用官方技术报告反推准备。

阶跃星辰、零一万物:无可核验的算法岗亲历面经;阶跃只有官方校招帖(A-JD)。

本题库继续不纳入昇腾适配、算子、推理引擎和硬件部署类岗位;找到符合证据规则的一手复盘再按相同规则补录。

3. 算法笔试与现场 coding 去重清单

3.1 传统算法/数据结构

题型最低实现要求公开样本
二分左右边界/出现次数明确 [lo, hi) 不变量,处理不存在和全重复BY-25-01
唯一重复数能比较哈希、排序、Floyd/值域二分的前提BY-25-02
编辑距离二维 DP,能解释初始化与滚动数组BY-25-03、KS-25-02
LCS二维 DP 与恢复路径TX-25-01
零钱兑换并输出组合不只返回最优值,还能记录 predecessorBD-25-01
层序遍历队列、逐层长度、空树KS-25-01
两数/三数之和哈希;排序双指针与去重KS-26-01、XHS-25-01
01 矩阵四角矩形行对/列对哈希计数,讲清复杂度PDD-25-01
无重复最长子串滑窗左边界只前进PDD-25-02
目标和最长连续子数组前缀和最早下标,兼容负数华为相邻样本
最大连续登录天数 SQL去重日期,date-row_number 分组PDD-25-02
LRU Cache哈希表 + 双向链表,get/put 均摊 O(1)O(1),处理容量 0/1JD-25-01
滑动窗口最大值单调队列存下标,过期与重复值处理正确DD-25-02
钥匙和房间DFS/BFS 可达性,空图与重复钥匙WY-25-01
岛屿数量四方向 DFS/BFS 或并查集,避免重复访问WY-25-02
零钱兑换最少数量完全背包初始化与不可达状态WY-25-03、TX-26-02
快速排序基准选择、递归深度、稳定性与最坏情形ALI-26-04、BD-26-01
最长回文子串中心扩展 O(n2)O(n^2),能说清 Manacher 的优化方向XP-26-01、快手候选池
最小回文串(构造/判定类)先明确题意再写;回文性质与贪心KS-26-02
合并两个有序链表哨兵节点与尾指针KS-26-04、ZP-24-01
反转链表迭代三指针;禁用辅助数组的版本XM-24-02、NIO-25-01
最大子数组和并输出方案Kadane 同时记录起止下标JD-26-01
最小生成树Kruskal + 并查集或 Prim,能讲复杂度ANT-26-02
卡特兰数递推 + DP从组合含义推导递推,再写 DPXHS-26-01
洗牌算法Fisher–Yates,O(1)O(1) 额外空间与均匀性论证XP-25-02
rand7 生成 rand10拒绝采样与期望调用次数ALI-26-03
高精度开 n 次根号二分 + 大数幂或牛顿法,精度边界BY-26-02
字母移到末尾的最少操作多重集判定 + 保持相对顺序的最长匹配JD-26-02
跳跃游戏 / 字符串解码贪心可达边界;栈解析嵌套XM-24-01
括号匹配 / 最长公共子串栈;二维 DP 与滚动数组ZP-24-01

3.2 大模型专用 coding

  1. response-only SFT loss:shift、-100 mask、EOS、变长 token-level accumulation;
  2. MHA/GQA:shape、mask、scale、RoPE 插入位置、KV heads 扩展;
  3. temperature + top-k/top-p sampling:数值稳定、非法温度、随机种子;
  4. DPO loss:chosen/rejected 的 response-only log-prob sum/mean 口径;
  5. GRPO clipped surrogate:group mask、零方差 group、token/sequence reduction;
  6. InfoNCE/CLIP loss:双向 CE、归一化、temperature;
  7. 简化向量检索:cosine、top-k、batch query、重复文档;
  8. RAG evaluator:Hit@k、Recall@k、MRR、evidence-set coverage 不混名;
  9. LoRA 线性层:W0x+sBAxW_0x + sBAx、初始化和 merge;
  10. RMSNorm/RoPE:避免 in-place 和 dtype 精度坑;
  11. DAPO/GSPO loss skeleton:clip 区间、token/sequence aggregation、mask 和 overlong 样本;
  12. 最小 BPE tokenizer:pair 统计、merge 顺序、encode/decode round-trip;
  13. 一个带超时、重试、幂等键和结构化错误的 tool wrapper;
  14. MoE 前向:router softmax、top-k 专家选择、加权求和与每专家 token 统计(MT-26-01 现场手写);
  15. GQA/完整 Transformer block:KV head 复用与广播、RoPE 插入、residual+norm 顺序(MHY-26-01 手写 GQA;LI-26-01 手写整个 Transformer);
  16. 单层 MLP 回归/二分类与 Beam Search(MM-24-01;独角兽公司偏好从零写基础件);
  17. 流式输入输出处理 + 结构化工具调用(MCP 风格)输出规范(ZP-26-01):增量解析、部分 JSON 缓冲、schema 校验与错误恢复——Agent 工程化手撕已开始替代纯模型公式手撕。

验收不能只看“能跑”:每题至少准备正常、空输入、边界、随机对拍和复杂度说明。

4. 新增知识缺口:答案卡

这些答案卡补主指南目前相对薄弱的主题。N1—N9 主要由公开面试复盘触发;N10—N16 是 2025—2026 论文/官方技术报告驱动的前沿候选题,不视为已在某家公司真实问过。N17—N22 于 2026-07-26 新增;N23 于 2026-08-29 新增,用经典 exploration/support 解释“什么时候不该直接上 RL”。

N1|MoE 负载均衡与 expert collapse

90 秒主回答:router 为每个 token 产生 expert logits,经 softmax 后选 top-k experts;容量有限会引入 token drop 或重路由。若少数专家长期获得多数 token,会出现负载不均、通信热点和专家训练不足。辅助 load-balancing loss 通常同时关心“被选中的 token 比例”和“router probability 质量”,但它会干扰主任务,因此要报告主 loss、每专家 token 数、router entropy、drop rate、all-to-all 时间和专家利用率。Switch Transformer 的辅助项是经典起点;现代模型还可能使用无辅助损失的 bias 调节,回答时必须绑定具体实现。

追问:为什么均匀负载不等于语义上更好?因为均衡是系统/容量约束,强行均匀可能破坏 specialization;应比较质量—吞吐 Pareto,而不是只把 auxiliary loss 降低。

权威核验:Switch Transformers, JMLR 2022;DeepSeek-V3 Technical Report。

方法谱系:greedy/temperature baseline → self-consistency → best-of-N + outcome verifier → process verifier/step search → tree/beam/MCTS 类搜索。增加 sample 数通常提升 pass@k,但最终选择质量取决于 verifier;搜索还会增加 token、KV、调度和延迟成本。

正确实验:固定总 token 或总 FLOPs 比较;同时报告 pass@1、pass@k、最终 selected accuracy、oracle gap、平均/尾延迟和 cost per solved problem。若只比较“采 64 条”与“greedy 1 条”,不能把提升全部归因于算法。

权威核验:Self-Consistency, ICLR 2023;Let’s Verify Step by Step, ICLR 2024;Scaling LLM Test-Time Compute。

N3|VLM 数据、视觉 token 与模态失衡

训练链路:视觉 encoder → projector/resampler → LLM;常见阶段是对齐预训练、指令微调,再按任务做偏好优化/RL,但具体模型不一定完全相同。任意分辨率通常通过切块/多尺度增加视觉 token;token 压缩能省上下文和算力,却可能伤 OCR、small object 和 grounding。

模态失衡诊断:做 text-only、image-only、image-shuffled、counterfactual image、遮挡/裁剪和冲突图文测试;若换图答案不变,模型可能在吃语言先验。评测需拆 OCR、grounding、图表、多图、视频时序和幻觉,不能只看一个总分。

权威核验:LLaVA;BLIP-2;LLaVA-NeXT / AnyRes 官方说明。

N4|Agentic RL 的 credit assignment

终态 reward 复制到所有 token 是最简单的 Monte Carlo 信号,但方差高,且无法区分有用步骤与偶然成功。可选方案包括:训练 value/critic 做 GAE;学习 process reward model;让 verifier 检查中间状态;对工具返回和环境状态设计 potential-based shaping;使用 leave-one-out/group baseline 降方差。

面试必须同时指出风险:过程标签可能错,dense reward 容易被 hacking,token-level reward 不等于 token-level causality。评测要看终态成功、步骤合法率、工具错误恢复、轨迹长度/成本,并对 outcome-only、process reward、不同 credit assignment 做消融。

权威核验:PPO;Let’s Verify Step by Step;DeepSeekMath/GRPO。

N5|DAPO、GSPO 与标准 GRPO 的回答边界

  • DAPO 不是简单“新名字的 GRPO”:论文强调 clip-higher、dynamic sampling、token-level policy-gradient loss 和 overlong reward shaping;
  • GSPO 把 importance ratio/clip 提升到 sequence level,论文动机之一是大规模 MoE RL 的训练稳定性;
  • 不同框架对 KL、advantage normalization、loss aggregation、rollout engine 和 stale policy 的实现不同,面试时先声明版本;
  • 不能说任何方法“彻底解决 off-policy”。必须记录真实 behavior log-prob、policy version,并监控 ratio、KL、clip fraction 与 trajectory age。

权威核验:DAPO;GSPO;DeepSeekMath。

N6|GRPO normalization 不是无害细节

组内减均值提供 baseline;再除标准差会改变不同 prompt/reward-scale 的相对权重,不只是“纯粹降方差”。低方差组可能被放大;group 全对或全错则几乎无有效相对信号。对随机 outcome 或概率校准任务,需把标准 GRPO 与 no-std、RLOO/PPO 做对照,不能因 reward 可自动验证就默认适用。

权威核验:Understanding R1-Zero-like Training;Dr. GRPO。

N7|训练与 RL 显存定量题

这是算法岗必须掌握的实验可行性估算,不扩展到 Serving 引擎设计。回答顺序:

  1. 权重、梯度、optimizer state:先声明 BF16/FP32 master/Adam 等假设,再说明 DP/ZeRO/FSDP/TP/PP/EP 分片;
  2. activation:与 micro-batch、序列长度、层数相关,说明 checkpointing 和 attention 实现;
  3. RL 额外角色:actor、critic(若有)、reference、reward/verifier、rollout engine 是否共享或卸载;
  4. rollout 的标准 raw KV:2L(∑iSi)nkvdhb2L(\sum_i S_i)n_{kv}d_hb;MLA 按 latent cache;
  5. 临时 buffer、通信峰值、碎片和长尾 response,说明“稳态能放下”不等于训练峰值不 OOM。

权威核验:ZeRO;PyTorch FSDP;DeepSeek-V2 / MLA。

N8|RAG 责任归因

最小实验矩阵:

检索上下文生成模型能回答什么
实际 top-k固定端到端现状
gold evidence固定检索上限与生成失败
空/打乱 evidence固定参数记忆、泄漏和上下文依赖
固定 evidence不同生成模型生成器贡献
固定候选集不同 reranker排序贡献

指标必须区分 Hit/Success@k 与 Recall@k;多证据问题还要看 evidence-set coverage。线上要按 query 类型、知识新旧、权限和拒答切片。

权威核验:BEIR;RAGAS。

N9|传统 ML/数学不能只背名词

至少能现场推导或解释:

  • 交叉熵、KL 两个方向、MLE 与 label smoothing;
  • bias-variance、正则化、数据泄漏与 covariate/concept shift;
  • precision/recall/F1、ROC-AUC 与 PR-AUC 的适用条件;
  • calibration、ECE/Brier score,以及阈值怎样按业务成本选;
  • SGD/AdamW、warmup、cosine schedule、梯度裁剪;
  • softmax/Jacobian、矩阵乘法 shape、期望/方差、条件概率;
  • 搜广推相邻岗再补 AUC、NDCG、IPS、IV/PSI 和负采样偏差。

回答任何指标题都要先说数据分布、类别不平衡、决策阈值和业务代价。

权威核验:On Calibration of Modern Neural Networks, ICML 2017;AdamW, ICLR 2019。

N10|MTP 是辅助训练目标,不等于一次无损生成多个 token

90 秒主回答:Multi-Token Prediction 在标准 next-token loss 外,用额外预测模块从共享 hidden state 预测更远的未来 token,并对多个未来位置的 loss 加权。它首先是预训练辅助目标,目的是让表示携带更长的未来信息;推理时可以丢弃辅助头,因此能力收益不依赖改变自回归解码。若保留预测头,可为 speculative decoding 提供候选,但这不代表部署时能够无条件、无损地并行输出多个 token。

最小实验:等参数、等训练 token、等 FLOPs 比较 NTP 与不同预测深度/权重的 MTP;同时测 validation loss、下游能力和稳定性。若再测 speculative decoding,需单独报告接受率和额外头成本,不能用吞吐提升证明模型能力提升。

常见错误:把 MTP 直接等同 speculative decoding;忽略额外预测模块;只比较相同步数而不控制训练 FLOPs。

权威核验:DeepSeek-V3 Technical Report;Better & Faster Large Language Models via Multi-token Prediction, ICML 2024。

N11|Muon/MuonClip 与 AdamW 的公平比较

90 秒主回答:Muon 对二维矩阵参数的梯度动量做近似正交化,常用 Newton–Schulz 迭代,使不同奇异方向的更新更均衡;embedding、norm、bias 等非矩阵参数通常仍使用 AdamW。扩展到大模型时不能只说“做正交化”,还要处理 weight decay 和按参数形状校准 update scale。MuonClip 进一步针对 Q/K 权重导致的 attention logit 爆长加入 QK-clip,监控对象包括 QK norm、attention logits、loss spike 和 update-to-weight ratio。

最小实验:调优后的 AdamW 与 Muon 做等 token、等 FLOPs、等模型/数据对照,报告训练 loss、下游能力、稳定性与总计算量。论文中的效率倍数是特定 scaling-law 实验结论,不是任意任务保证。

常见错误:所有参数都用 Muon;把“更新近似正交化”说成“权重必须正交”;直接复述效率倍数而不声明实验条件。

权威核验:Muon is Scalable for LLM Training;Kimi K2 Technical Report / MuonClip。

N12|长训练周期下,数据过滤不是越严格越好

90 秒主回答:激进过滤可能提高单位 token 的平均质量,却缩小 unique-token pool;当训练 horizon 很长时,少量保留数据会被重复更多次,增加记忆、模板偏置与覆盖缺失。因此最优目标是质量、唯一性、领域覆盖、污染和重复次数的 Pareto,而不是最大化某个 quality classifier 分数。合成改写可以改善表达质量,但不会自动创造新事实。

最小实验:在等总 token/等 FLOPs 下比较多档过滤阈值,记录 unique token、每来源重复次数、近重复率、污染率、领域切片和短/长 horizon validation 曲线。短程最优阈值不能直接外推到 10T+ token。

常见错误:只报最终 benchmark;不控制训练 token 和重复次数;把 synthetic rewrite 当成增加事实覆盖。

权威核验:Nemotron-CC。

N13|RLVR 分数上涨不等于 reward 教会了新推理

90 秒主回答:reward 可执行只说明能自动打分,不保证其语义信息是能力提升的原因。部分基座上,随机、格式甚至错误标签 reward 也可能提高数学分数,可能是在放大预训练已有模式、改变长度、熵或采样分布。因果验证至少要比较正确、随机、格式和反向 reward,覆盖多个 base family,并在等 rollout/FLOPs 下同时看 pass@1、pass@k、长度、熵、多样性和域外任务。

只有正确 reward 相对强控制组产生稳定、跨模型、域外且 verifier-invariant 的增益,才更有资格归因于 reward 语义。

常见错误:训练 reward 和 benchmark 同涨就声称涌现新推理;只在一个 Qwen 数学基座上实验;不看 high-k support 与解法多样性。

权威核验:Spurious Rewards: Rethinking Training Signals in RLVR。

N14|Scalar RM、Generative RM 与 verifier 怎样选

90 秒主回答:确定性任务优先外部 verifier;开放域偏好常用 RM。Bradley–Terry scalar RM 便宜,但单分值难解释,容易利用长度、风格、位置和模型身份 shortcut。Generative RM 可生成文本化判断、理由或 critique,从而允许增加 reward-side inference compute;DeepSeek-GRM 的具体做法是使用 Self-Principled Critique Tuning 生成自适应原则、critique 与判断,并通过并行采样和 meta-RM 聚合多个 judge 输出。

正确评测:固定 judge token/FLOPs,测 pairwise accuracy、位置交换、长度控制、跨域、校准、对抗样本,以及 policy 优化后对 reward 的 exploitability。更多 judge compute 不保证单调提升;相关错误会让投票失效,meta-RM 本身也是攻击面。

常见错误:有解释就等于判断正确;critique 越长越可靠;只测静态 RewardBench,不测被 policy 优化后的 RM。

权威核验:Inference-Time Scaling for Generalist Reward Modeling。

N15|Search-R1:把检索当作 RL action

90 秒主回答:静态 RAG 通常只检索一次;Search-R1 把 search query 视为 policy action、搜索结果视为 environment observation,使轨迹成为 reasoning—search—observation 的多轮交替。检索结果不是模型动作,通常要从 policy loss 中 mask 掉,避免训练模型去“生成搜索引擎返回内容”;最终 outcome reward 可以训练何时搜、搜什么和何时停止,但仍存在长程 credit assignment。

最小实验:与静态 RAG、prompt-only search Agent、同调用预算 SFT 比较;报告 query quality、evidence recall/coverage、搜索次数、答案正确、引用支持、成本和时间外泛化,并固定搜索索引版本。

常见错误:对 observation token 计算 policy loss;最终答对就认为搜索步骤正确;只看 QA accuracy 不看证据和调用成本。

权威核验:Search-R1;COLM 2025 版本。

N16|Visual-RFT:多模态 RLVR 必须证明模型真的看图

90 秒主回答:检测、grounding、计数等任务可以使用 IoU、点/框命中、类别 exact match 等视觉可验证 reward,再用 GRPO 类算法从同一图像采样多条 reasoning/answer。reward 必须绑定图像坐标或视觉标注;只判断最终文本答案可能让模型利用语言先验。格式 reward、答案 reward 和 perception reward 应分开记录。

因果验证:image shuffle、遮挡目标、counterfactual image、同题换图、图文冲突和域外类别;与 SFT、text-only RLVR、answer-only reward 比较,同时看 mAP/IoU、答案准确、grounding consistency、幻觉和视觉 token 成本。

常见错误:文本答案可核验就称 visual verifier;CoT 变长就称视觉推理增强;只测与训练完全同格式的数据。

权威核验:Visual-RFT, ICCV 2025;官方实现。

N17|DSA 稀疏注意力与”压缩 + 稀疏”两级注意力

90 秒主回答:DeepSeek Sparse Attention(DSA)用一个轻量 indexer 为每个 query 对历史 token 打分,只对被选中的细粒度子集做完整 attention,把长上下文的主注意力成本从 O(L2)O(L^2) 降到接近 O(Lk)O(Lk);因为选择是 per-query、可学习的,而不是固定窗口/块模式,长上下文质量损失显著小于静态稀疏。DeepSeek-V3.2 首次全线落地;2026 年 GLM-5 也改用 DSA,DeepSeek-V4 在其上叠加 token-wise compression:先把 KV 按块压缩成粗粒度表示,再在压缩表示上做 top-k 稀疏选择,KV 显存与 FLOPs 双降,使 1M 上下文成为默认配置。回答时必须区分三层:KV cache 压缩(省显存)、稀疏选择(省计算)、两者组合的误差来源。

追问:与 MLA 什么关系?MLA 压缩的是每个 token 的 KV 表示维度(latent 维度),DSA 减少的是参与 attention 的 token 数量,两者正交可叠加。怎样证明”近无损”?固定模型与数据,对比全量 attention 与稀疏版在长上下文检索(NIAH 类)、多跳推理和困惑度上的差距,并报告不同序列长度下的加速比。

常见错误:把 DSA 说成滑动窗口或块稀疏;忽略 indexer 本身的训练与开销;用短序列 benchmark 证明长上下文无损。

权威核验:DeepSeek-V3.2;DeepSeek-V4 官方发布;GLM-5。MiniMax M3 的 MSA 为同类块级 indexer 路线(发布信息以官方报告为准)。

N18|线性注意力混合架构进入旗舰模型

90 秒主回答:线性/次二次注意力(gated delta network、Kimi Linear 的 KDA 等)把每层的历史信息压缩进固定大小的状态,decode 时无需随长度增长的 KV cache;代价是精确的长程随机访问能力弱于 softmax attention。2025 末—2026 年的旗舰做法是混合:大部分层用线性注意力,少数层保留全量(或稀疏)softmax attention 兜底长程检索,Qwen3.5 即采用”线性注意力 + 稀疏 MoE”组合。面试要能说清三点:线性注意力为什么快(recurrent 形式、状态大小固定);为什么不能全换(检索/复制类任务退化);混合比例与层位怎样选(保留层通常放在深层或按间隔分布,需消融支撑)。

最小实验:等参数等数据下比较纯 softmax、纯线性、不同混合比例,报告困惑度、长上下文检索、复制任务、吞吐与显存曲线;序列越长,混合架构收益越明显,但必须同时报告能力退化边界。

常见错误:把线性注意力说成”无损加速”;混淆 KV cache 减少与计算量减少;不知道混合层的存在直接说”Qwen 全用了线性注意力”。

权威核验:Qwen3.5 发布公告;gated delta network 与 KDA 细节以对应论文/官方报告为准。

N19|Agent 工程化生态题:skill、harness、上下文工程

90 秒主回答:2026 年面试已直接问工具生态名词,但考察点是背后的工程原理。skill 是把程序性知识(怎么做某类任务的说明与脚本)打包成按需加载的单元,好处是不常驻上下文、可版本化、可复用;harness 指模型外围的执行框架能力(工具调度、权限、重试、状态管理、环境隔离),同一个模型换 harness 表现可以差很多。上下文工程的核心矛盾是:工具定义、历史消息、检索结果都在抢有限上下文预算——对策包括按需加载(skill/渐进式披露)、压缩与摘要(保留任务状态而非原文)、用代码执行间接调用大量工具而不是把所有工具 schema 塞进上下文。回答时把名词映射回:上下文预算、状态管理、失败恢复、可评测性四个坐标。

已验证的真实考题:蚂蚁问”harness 能力体现在哪、不同 Coding Agent 创建 skill 的差异、Coding Agent 响应为何随会话变长而变慢”(ANT-26-01);百度问 Prompt→Context→Harness、上下文压缩与 Coding Agent 学习体系(BD-26-03),更早还问过 Skill 定义(BD-26-01);阿里云问 Harness 权限/安全与长程早停(ALI-26-06);智谱手撕”流式输出 + MCP 调用输出规范”(ZP-26-01);拼多多问”上下文压缩为何选 70% 而非砍早期对话”(PDD-26-02)。

追问:会话变长变慢怎么解释?上下文线性增长使 prefill 成本与 KV 显存上升、缓存命中率下降,且长上下文中模型对中段信息利用变差;对策是压缩、检查点化状态、把长历史外置到文件/记忆再按需取回。

常见错误:把这些当营销名词背定义而不落到预算与失败模式;声称某家产品实现细节而无来源。

权威核验:Anthropic:Code execution with MCP;Anthropic 工程博客的 context engineering 与 Agent Skills 系列。

N20|LLM-as-a-Judge 评测设计与一致性

90 秒主回答:把 LLM 当评委必须先设计 rubric:硬门槛(事实错误、格式违规、安全问题直接不及格)与加分项(深度、风格、完整性)分开,避免单一分数把致命错误平均掉。可靠性检查至少四项:swap consistency(交换两个候选答案的位置,结论应翻转一致,防位置偏差);长度控制(防”越长越好”偏好);自我偏好(judge 偏爱同源模型输出);与人工标注的一致率及打分方差。专家打分方差大时,先细化 rubric 并做标注员校准,再用多评委聚合,而不是直接平均。评测体系要能做消融归因:分别关掉 RAG/SFT/DPO/Judge 环节,证明每个环节的贡献。

已验证的真实考题:百度问 rubric 硬门槛与加分项划分、swap consistency 防什么、消融怎样归因(BD-26-02);OPPO 问 LLM-as-a-Judge 之外的评测方法、专家打分方差大怎么办(OPPO-26-01);快手评测岗问视频生成评测维度与 benchmark 选择(KS-26-04);此前网易有道已问过交换答案顺序与多轮评估(WY-25-02)。

常见错误:只报 judge 分数不报与人工的一致率;用同一个模型既生成又评审不做去偏;训练集只有“有问题”案例,没有无异常负例,导致模型靠夸大/编造拿高分;rubric 一把抓导致高分答案仍含硬伤。

权威核验:与 N14(Generative RM)互补——N14 讲 reward 侧,本卡讲评测协议侧;Training Alignment Auditors via RL的消融显示 pairwise reward 比 pointwise 更稳,加入无隐藏行为负例可维持低误报,但这仍是单一审计场景的预印本;RAGAS 等评测框架可作工程参照。

N21|预训练/SFT 数据工程专场

90 秒主回答:2026 年出现整场只考数据工程的一面(BY-26-02)。回答框架按管线走:来源与合成(人写、改写、蒸馏合成,成本与授权差异;小语种可用翻译+回译+术语表约束低成本合成,但要防翻译腔与事实漂移)→ 清洗(规则过滤、质量分类器、困惑度筛选,各自的偏置)→ 去重与多样性(exact/near-dup/MinHash;聚类去重按语义簇采样,去重过度会缩小 unique-token 池,见 N12)→ 配比(领域/语言/难度分桶,下采样时按簇保多样性而不是均匀随机丢)→ 验证(配比消融、污染检测、下游切片评测)。每一步都要能说出可观测指标和一个失败案例。

已验证的真实考题:字节 TikTok 整场数据工程(合成、标注、混合、聚类去重、下采样保多样性、小语种降本,BY-26-02);快手电商预训练数据构造(KS-26-02);拼多多低质过滤与去重、SFT 数据防模板化与 train/test 去重(PDD-26-02、PDD-26-03);美团标注质量量化与多源配比(MT-25-01)。

常见错误:只会说”清洗去重”四个字给不出判据;把质量分类器分数当唯一目标(N12 的 Pareto 问题);SFT 数据模板化导致模型输出千篇一律还测不出来。

权威核验:Nemotron-CC;各家基座技术报告的数据章节。

N22|奖励密度谱系:从 GRPO 稀疏结果奖励到 OPD 稠密过程信号

90 秒主回答:把后训练信号放在一条”密度谱”上看:outcome reward(GRPO/RLVR,一条轨迹一个分数,信号稀疏但目标干净)→ process reward(PRM/verifier 给步骤分,稠密但标签可能错、易被 hack)→ on-policy distillation(学生自己采样、教师给每个 token 打 log-prob 级反馈,最稠密,但上限受教师能力约束)。2026 年的实践倾向按阶段切换:能力探索期用稀疏结果奖励拉 pass@k,收敛期或蒸馏小模型时用 OPD 的稠密信号提高样本效率;公开材料称 OPD 类配方已进入多家国产旗舰的训练管线(以各家技术报告为准)。面试要能比较三者的方差、偏置、可 hack 性和计算成本,并说明”稠密不等于更正确”。

追问:OPD 与 SFT 蒸馏的本质区别?SFT 在教师分布上学(off-policy,暴露偏差),OPD 在学生自己的采样分布上被教师纠正(on-policy),错误状态也能得到反馈;与 R10/N5 的 forward/reverse KL 讨论衔接。

常见错误:把 OPD 说成”就是蒸馏”;认为 process reward 总优于 outcome reward;引用”效率提升数倍”却不声明任务与教师规模。

权威核验:Thinking Machines:On-Policy Distillation;稀疏与稠密奖励阶段切换的实证;SFT/RL/OPD 的状态分布统一视角。

N23|RL 是否有可学习信号:先量 base-policy support

90 秒主回答:On-policy PPO/GRPO 只能从当前策略采到的轨迹学习。若 base policy 对目标行为的概率质量接近零,有限 rollout 中几乎全错,组内 reward 方差也接近零;增加卡数、step 或调 clip 不能凭空创造 support。训练前在目标 prompt 分布上测 pass@1/pass@k、组内非零方差率、动作/工具覆盖、有效轨迹率与失败类型;有 support 才直接 RL,support 低时先 SFT/蒸馏、curriculum 或任务分解,verifier 不可信时先修环境。

可证伪实验:固定模型与预算,按训练前 support 分桶,比较直接 RL 与 SFT→RL;若低 support 桶也能同样稳定学成、support 与最终增益无关,这个机制解释就不成立。还必须控制 prompt distribution,因为同一 spurious reward 在不同分布上的作用可能相反。

常见错误:把全错组归因成学习率;只报平均 pass@1 不看 pass@k/support;在目标行为不可达时无限增加 rollout;用一个 prompt 分布的结论外推所有数据。

权威核验:Demystifying Reinforcement Learning Post-Training of Language Models;经典 exploration/support 见 Sutton & Barto。

5. 2027 高概率题型(全部为预测 P)

预测主题为什么值得准备可演练的问题
Agentic RL credit assignment2026 公开复盘已出现过程奖励和 token 分配只有稀疏终态 reward,怎样比较 MC return、GAE、PRM 和 reward shaping?
DAPO/GSPO/OPD 与训推一致性2026 已从 GRPO 定义推进到 KL 方向、MoE 路由和系统细节rollout engine 量化且 trainer 为 BF16 时,ratio 偏差怎样测?
长程 Agent 可靠性2025 蚂蚁/阿里记录已追问并发、DAG、容错设计有状态、多租户、可回放的工具 Agent;何时停止和人工升级?
后训练数据闭环多家公司持续追问数据配比、切 RL 条件、hacking设计生成—过滤—难度分桶—SFT—RL—评测—回流;怎样防 judge 偏差?
MoE × RL 稳定性2025 已考 router loss,2026 已考路由不一致expert collapse、rollout/train 路由和策略陈旧怎样联合监控?
定量训练与 rollout 成本多个 2025 样本直接要求训练/GRPO 显存估算给模型规模、序列、batch、精度和并行策略,估算训练状态、activation 与 rollout cache
多模态 reasoning2025 百度/阿里/小红书相邻题已覆盖 VLM文本与图片冲突时模型偏信文本,怎样构造数据、reward 和反事实评测?
Agentic RAGRAG 已从组件名词转向归因和更新怎样定位 query rewrite、召回、rerank、context selection、generation 哪层出错?
RLVR 因果对照2025 研究显示错误/随机 reward 在部分基座上也可能涨分怎样用随机、格式、反向 reward 与跨 base family 证明 reward 的语义贡献?
Generative RM开放域 reward 正从 scalar score 扩展到原则、critique 和 judge aggregation固定 judge FLOPs 后,怎样比较 scalar RM、GRM 与 verifier?
Search-R1 / 检索型 RL搜索 query 开始作为 policy action 进入 rolloutobservation token 为什么要 mask,怎样同时评估答案、证据与搜索成本?
MTP / Muon / 新预训练 recipe国内基座技术报告已公开这些训练方法MTP 与 speculative decoding 如何区分;Muon 与 AdamW 怎样做公平对照?
多模态 RLVR视觉可验证 reward 已进入 2025 论文怎样证明收益来自视觉证据,而不是语言先验或格式 reward?
双轨 coding传统 DP/滑窗仍在,同时多次出现 MHA/loss同一轮完成一道 Medium 和一个 mask 正确的 GRPO/DPO/SFT 实现
项目反事实压力测试项目真实性是跨公司的稳定共性数据减半、禁人工标注、延迟减 50%、换基座时,最小验证实验是什么?
稀疏/线性注意力新一代DSA 已进 DeepSeek V3.2/V4 与 GLM-5,Qwen3.5 采用线性混合架构推导”压缩+稀疏”两级注意力的 KV 显存与 FLOPs 收益;DSA 与 MLA/GQA 的正交关系
Agent 工程化手撕智谱 2026-02 已用”流式输出+MCP 调用规范”替代纯 attention 手撕写一个带流式解析、结构化调用与错误恢复的最小 Agent 循环
LLM-as-a-Judge 协议百度/OPPO/快手 2026 样本已问 rubric、swap consistency、打分方差设计带位置交换、长度控制与人工一致率检查的评测协议
数据工程专场字节 2026 已出现整场只考数据工程的一面给出从合成、清洗、去重到配比消融的完整管线,每步说指标与失败案例

预测的使用方法:每月更新一次,只根据新增的一手复盘和目标团队官方技术方向升降优先级;不要因为某个新缩写出现就删除 Transformer、ML、coding 和项目深挖。

6. 两周执行优先级

本节是题库驱动的两周应急方案,正文继续保留。当前活动日历统一以30 天冲刺计划为准。

P0:必须能写、能算、能排障

  • response-only SFT、MHA/GQA、DPO/GRPO loss、temperature/top-p;
  • MoE 前向与 GQA 手写(2026 已现场考:MT-26-01、MHY-26-01);
  • 参数、训练状态、activation 与 RL rollout/KV 显存;
  • PPO/DPO/GRPO/DAPO/GSPO 的角色、数据流、目标、失败;
  • RAG 归因实验;Agent 工具失败、并发隔离、终态评测;
  • 选 12 道传统 coding,全部写边界测试。

P1:按岗位方向选择

  • 后训练:reward、hacking、entropy、stale rollout、credit assignment;OPD 与奖励密度谱系(N22);训练前的 base-policy support(N23);
  • Agent:trajectory 数据、memory、权限、安全、回放与评测;工具生态差异与上下文预算(skill/harness,N19);
  • 评测:LLM-as-a-Judge rubric、swap consistency、消融归因(N20);
  • 数据:合成、清洗、去重与多样性、配比消融(N21);
  • 多模态:VLM 数据阶段、视觉 token、OCR/grounding、模态失衡;
  • 算法交付最低训推边界:只掌握 prefill/decode、TTFT/TPOT 和效果—成本验收,不扩展到 Serving 调度或 kernel;
  • 搜广推相邻岗:传统 ML、指标、SQL 与因果/偏差基础。

每道题的合格答案模板

  1. 一句话定义边界;
  2. 画数据流或写核心公式;
  3. 给 shape、复杂度、显存或成本;
  4. 说一个失败模式和可观测指标;
  5. 设计一个能证伪自己解释的最小实验;
  6. 落到自己的项目数字和个人贡献。

7. 维护记录

  • 2026-09-08:新增跨岗位观察附录见招聘面经汇总 §15,包括京东 NumPy/JSON 逻辑回归、字节 Agent 开发排障、拼多多通用机考整理与美团冲突版本线索。旧口径 89 组算法面经不与开发岗/二手笔试直接相加。主指南 §3.10 补可口述的延迟/参数/压缩回答;知识缺口卡仍为 N1–N23。

  • 2026-07-23:建立年份化题库;纳入 2025—2026 的模型算法公开复盘,单列华为证据缺口;新增 MoE、推理时计算、VLM、Agentic RL、GRPO normalization、训练/RL 显存、RAG 归因和 ML/数学答案卡;将 2027 明确标成预测;按个人方向删除纯推理 Infra、kernel/C++ 底层和硬件适配岗位样本。

  • 2026-07-24:第三轮检索新增京东、滴滴、网易/有道、OPPO 共 9 组 B 记录及智谱 1 组 B- 候选;华为盘古、DeepSeek、Kimi、MiniMax、小米仍维持“强证据不足”。新增 MTP、Muon、长周期数据过滤、RLVR 因果对照、Generative RM、Search-R1、Visual-RFT 七张前沿答案卡;这些论文驱动题全部与历史面经分开标注。

  • 2026-07-26:第四轮五路并行检索。(1) 主窗口新增 2026 年 B/B- 样本约 30 组,覆盖 27 届暑期实习与 2027 届提前批(BY-26-02~05、ALI-26-01~04、ANT-26-01~03、TX-26-01/02、BD-26-01/02、MT-26-01、KS-26-02~04、XHS-26-01、PDD-26-02/03、JD-26-01/02、DD-26-01、WY-26-01/02、OPPO-26-01、ZP-26-01)。(2) 新增 B站、荣耀、vivo、车企(理想/蔚来/小鹏)、米哈游、携程、Shopee 七个公司章节,及独角兽/其他 AI 公司的 2024—2025 画像样本(小米、MiniMax、商汤、讯飞、昆仑万维、百川、面壁)。(3) 智谱升级为强样本公司(ZP-26-01 Agent 工程化手撕、ZP-24-01 全流程)。(4) 华为/DeepSeek/月之暗面证据现状更新:华为 AI 岗机考两次改版、DeepSeek 社招流程一手叙述与 Agent 岗机考、Kimi 仍无强样本。(5) 新增 N17—N22 答案卡(DSA/两级注意力、线性混合架构、Agent 工程化生态、LLM-as-a-Judge、数据工程专场、奖励密度谱系)。(6) 已识别整理号风险:跨公司模板化账号与 2025 帖拆分重发(TX-26-02),相关样本均已降级或标注。

  • 2026-07-30:第五轮定向补查知乎、小红书内容平台、牛客、CSDN、博客园和公众号公开索引。新增 KS-25-03 快手 26 届两轮亲历;明确小红书内容平台/公众号无法稳定核验时不抄摘要;DeepSeek 只新增官方岗位 A-JD,仍不虚构算法面经;招聘批次与动态状态移到 求职/ 独立维护。

  • 2026-08-29:第六轮增量补入 BD-26-03、ALI-26-05~07,覆盖 Prompt→Context→Harness、上下文压缩、权限安全、长程早停、trajectory 校验、OPD、多轮 reward 与 user simulator;N19/N20 更新真实考题和 Judge 负例校准,新增 N23 base-policy support。美团 8.25 笔试版式同步到公司笔试手册与 AI Coding 补丁,不在面经账本伪造“统一原卷”。


原始文档:GitHub 源文件。

本页目录