文章

ML / AI Coding 算法岗笔试补丁

JSON 契约、数值稳定、Viterbi、Attention、IRLS、搜索排序/NDCG、Apriori 与 MITM 的限时实现要点。

2026年7月26日 更新于 2026年9月8日 约 10 分钟

专题 大模型算法岗求职笔记 第 5 篇 / 共 13 篇

本文是个人求职工作区文档的发布版,更新于 2026-09-08(北京时间凌晨快照)。源文件托管在 GitHub 仓库 llm-algo-job-notes;历史章节保留各自证据日期,岗位状态见最新窗口日志。

更新至 2026-09-08。最新 §13 补京东 NumPy/JSON 逻辑回归,以及通用算法与 Agent 开发相邻岗练习。历史题型仍包括 Viterbi、Attention、IRLS、排序/NDCG 等;公开题面缺失部分明确采用自拟训练契约。

可执行零依赖实现:ml_ai_coding_exam.py;自动测试:test_ml_ai_coding_exam.py。

1. 七类题面信号

题面核心模式必须先确认
自然语言业务规则,要求 AI/Prompt 实作schema → validator → pure solve → serializer输入字段、默认值、错误协议、输出是否只允许 JSON
训练正常样本并检测异常标准化 + One-Class 模型 + 验证选参分数方向、阈值、训练/验证泄漏、并列参数规则
手写 Logistic Regression/Newton/IRLSsigmoid + 梯度 + Hessian + 线性求解bias 是否正则、label 编码、停止条件、奇异矩阵
HMM、状态序列、最可能路径对数域 Viterbi + 回溯指针pi/A/B 方向、观测编号、零概率、并列路径
Q/K/V、Top-k、门控、归一化缩放点积 Attentionshape、scale、mask、Top-k 并列、门控位置
query、商品/文档特征、预测分数、NDCG@k分组搜索排序流水线按 query 切分、防泄漏、相关度定义、提交顺序
事务集合/固定选一半/和最接近Apriori 或 MITM候选剪枝、按选择个数分桶、JSON 确定性输出

2. 统一机考提交协议

stdin 单个 JSON
→ parse:只解析,不做业务计算
→ validate:类型、必填字段、shape、范围
→ solve:纯函数,不读全局、不打印
→ serialize:只输出一个 JSON,禁止 debug 日志

建议函数签名:

def dispatch(request: dict) -> dict:
    ...

def main():
    request = json.loads(sys.stdin.read())
    print(json.dumps(dispatch(request), separators=(",", ":")))

仓库模板已实现 sigmoid、viterbi、attention 三种 JSON task。真实考试字段不同,应保留四阶段结构,只改 schema 和算法参数。

3. 数值稳定速查

问题错误写法稳定做法
sigmoid1/(1+exp(-x)) 对大负数溢出x≥0 与 x<0 分支计算
softmax直接 exp(logit)每行先减最大值
log 概率累乘连乘后下溢为 0全程加 log(p),p=0→-inf
logsumexplog(sum(exp(x)))m + log(sum(exp(x-m)))
Newton/IRLSinv(H) @ g解线性方程 H·step=g,必要时 L2 正则
标准化全数据 fit scaler只在训练集 fit,再 apply 到验证/测试
零方差列除以 0明确保留为 0 或按题面删除

每次矩阵计算后检查:shape 是否正确、结果是否 finite、概率行和是否接近 1。

4. Viterbi 模式

状态:dp[t][s] 是处理到第 t 个观测、最终处于状态 s 的最大对数概率。

转移:

dp[t][s] = log B[s][obs[t]]
           + max_p(dp[t-1][p] + log A[p][s])
parent[t][s] = 取得最大值的 p

最后从最佳终态沿 parent 逆序回溯。并列时固定选较小状态编号,才能让隐藏测试稳定。

必测:单状态、单观测、零转移、零发射、不可达序列、空观测、非法 symbol。

5. 门控 Top-k Attention 模式

对 Q[Lq,d]、K[Lk,d]、V[Lk,dv]:

  1. score[i][j] = dot(Q[i], K[j]) / sqrt(d)。
  2. 每行选 Top-k;分数并列按 key 下标。
  3. 仅对选中项做 stable softmax。
  4. 对 V 加权求和。
  5. 按题面在输出或权重处应用 gate,不能自行假定。

不要因为题面出现 Top-k 就把整题判成堆题:Top-k 只是 Attention 流水线中的技术部件。

必测:Lq≠Lk、dv≠d、k=1/Lk、并列分数、极大 logits、非法 k、gate 为 0。

6. IRLS / Newton Logistic Regression

负对数似然的梯度和 Hessian:

p = sigmoid(Xw)
g = Xᵀ(p-y) + λw
H = Xᵀ diag(p(1-p)) X + λI
solve H·step = g
w ← w - step

工程规则:

  • 截距列是否正则化必须按题面;仓库模板默认不正则 bias。
  • 不显式求逆;奇异 Hessian 应增加正则或明确失败。
  • 返回 converged 和迭代次数,不要悄悄假装收敛。
  • 完全可分数据会让无正则权重发散,测试时应加 L2。

必测:共线特征、单类别、完全可分、max_iter=0、非法 label、极端特征值。

7. One-Class SVM / 异常检测流水线

这类题依赖题目允许的库和版本,本仓库不新增 sklearn 生产依赖;训练时掌握流水线而不是背构造器参数:

仅正常训练样本 X_train_normal
→ fit scaler(X_train_normal)
→ transform train/validation
→ 遍历 gamma/nu 等参数
→ 在验证集按题目指标选参
→ 固定并列规则
→ 用全部允许的正常样本重新 fit scaler 和模型
→ 对测试集输出规定方向的 score/label

常见致命错误:在验证/测试上重新 fit scaler;把 decision_function 正负方向写反;参数并列时依赖字典遍历;不固定随机种子。

8. 搜索排序与 NDCG@k

2026-08-18 美团公开题面要求:根据 query、商品文本/品牌、价格、评分、点击/加购等字段输出排序分数,以 NDCG@10 评估。训练时先掌握最小正确流水线:

读表并确认一行代表 query-item 对
→ 按 query 分组切 train/validation(同一 query 不跨集合)
→ 文本匹配特征 + 品牌/价格/评分 + 行为特征
→ pointwise baseline(线性/树模型)
→ 每个 query 内按 score 降序
→ 计算 NDCG@10
→ 输出 id,score,保持测试行一一对应

对一个 query,预测顺序下的相关度为 rel_i:

DCG@k=∑i=1k2reli−1log⁡2(i+1),NDCG@k=DCG@kIDCG@k.DCG@k=\sum_{i=1}^{k}\frac{2^{rel_i}-1}{\log_2(i+1)},\qquad NDCG@k=\frac{DCG@k}{IDCG@k}.

IDCG@k 是按真实相关度降序的理想 DCG;若该 query 的 IDCG=0,必须按题面约定返回 0 或跳过,不能除零。常见失败:随机按行切分造成 query 泄漏;把点击/加购当测试时可用标签;跨 query 比 score 大小;排序并列不固定;训练时优化全局 AUC 却用 NDCG 选模型。

60 分钟 baseline 顺序:先字符/词项重叠、品牌精确匹配、价格差/评分等可解释特征;再上 TF-IDF/BM25 或允许的树模型;最后才调复杂模型。每轮只改一个模块并保存 validation NDCG,避免让 AI 助手一次性重构全项目。

9. Apriori 与按个数分桶的 MITM

这两类题不是“大模型算法”,但以 JSON/业务故事包装进入算法岗卷面:

  • Apriori:由频繁 k 项集按共同前缀连接候选 k+1 项集;若候选任一 k 子集不在上一层频繁集合,立即剪枝;扫描事务计 support;输出按长度、字典序固定排序。
  • 精确选一半的 MITM:左右两半分别枚举 (选择个数, 子集和);按选择个数互补配对;对一侧排序,在目标附近二分。不要只保存总和而丢失“选了几个”的约束。

验收用小规模暴力对拍:Apriori 枚举所有 item 子集;MITM 枚举所有固定大小组合。JSON 中 tuple/list、整数顺序和重复事务的处理必须确定。

10. 类 Kaggle ML 半卷:先交付,再提分

2026-08-25 美团大模型算法公开样本中,选择 30 分、算法 20 分、AI Coding 50 分;关联题面是给训练/测试表、目标字段与命令行契约的类 Kaggle ML 任务。这意味着训练时不能只会某个固定模型,要会在陌生 schema 下快速建立可运行、可评分、无泄漏的闭环。

收到目录后按这个顺序:

README / SCHEMA / 样例提交
→ 确认目标、可用字段、产生时点和禁用泄漏字段
→ 读 train/test 的列、dtype、缺失、主键与时间范围
→ 合法切分(时间/用户/query/group 优先,不能默认随机行切)
→ dummy/线性/树 baseline
→ 本地指标与提交格式双校验
→ 每轮只改一类特征或一个模型,记录 score 与耗时

15 分钟硬门槛:命令 python main.py --input ... --output ... 能跑通;输出行数、主键、列名、dtype、NaN/Inf 都合法;本地有一个可复现 baseline 分数。达不到这条线时先修契约,不调参。

常见失败:随机切分泄漏未来/同用户信息;把测试期才产生的行为字段当特征;离线指标与平台指标实现不一致;AI 一次性重构后无法定位退化;只看 public score 不保留本地验证。每次让 AI 修改前先写预期,修改后看 diff、跑最小样例和验证集;分数不涨先排查数据与指标,不立即换“更强模型”。

11. AI Coding 的 60–90 分钟节奏

  1. 0–10 分钟:读任务契约、schema、指标和样例;列出三种最可能的泄漏。
  2. 10–20 分钟:完成 parse/validate/serialize 或数据读取/合法提交,跑通最小 baseline。
  3. 20–55 分钟:先写正确直接实现;建模题只做一轮可解释特征和一个稳健模型。
  4. 55–70 分钟:补空集合、重复、Unicode、边界值、缺失、并列、非法输入与切分检查。
  5. 70–85 分钟:只做有依据的一到两次单变量迭代,每次保存本地分数与 diff。
  6. 85–90 分钟:回滚不稳定改动;检查 stdout/文件格式、行数、NaN/Inf、随机种子和最终运行命令。

12. 验收线

  • stable_sigmoid(±1000) 不溢出,softmax 行和约为 1。
  • Viterbi 能与小状态暴力枚举对拍。
  • Attention 明确所有 shape,Top-k 并列结果可复现。
  • IRLS 在有正则的小二分类数据上收敛,权重全部 finite。
  • CLI 重复运行输出一致,且 stdout 只有一个可解析 JSON。
  • One-Class 流水线能解释每一步数据来自哪里,不发生训练/验证泄漏。
  • 能手算一个 query 的 NDCG@3,并处理 IDCG=0;训练/验证按 query 隔离。
  • Apriori 和固定选 k 个的 MITM 能与小规模暴力枚举对拍,输出顺序稳定。
  • 给一份陌生表格 schema,15 分钟内跑通合法 baseline;能解释切分单位、三种泄漏风险、本地指标与提交契约。

运行:

python3 -m unittest discover -s '笔试/AI算法/模型手写/tests' -v

13. 9 月 8 日增量:逻辑回归完整交付

京东 9.05 亲历帖只确认 NumPy、JSON 训练/测试集输入与测试概率输出,没有公开完整字段、学习率、初始化或优化器。本节是明确约定的训练版本,不能当作完整原题答案。

自拟契约:输入 X_train[n,d]、y_train[n](0/1)、X_test[m,d]、lr、steps;零初始化,带 bias、无正则、全批梯度下降;不自动标准化。真实题面若规定正则、归一化或迭代条件,按题面修改。

令 z = Xw+b、p = sigmoid(z),平均二元交叉熵对参数的梯度为:

∇wL=XT(p−y)/n,∇bL=mean⁡(p−y).\nabla_w L=X^T(p-y)/n,\qquad \nabla_b L=\operatorname{mean}(p-y).

每轮先用同一组旧参数算出两个梯度,再更新 w 和 b。稳定 sigmoid 按 z 正负分支计算;不要用会同时计算两条指数分支的写法造成溢出。全零初始化在逻辑回归中可用,不能把深层网络的神经元对称性问题机械套过来。

可执行入口:logistic_json_drill.py;测试:test_logistic_json_drill.py。NumPy 是该练习依赖,其余旧模板仍有零依赖版本。

35 分钟训练流程:5 分钟检查 schema 和 shape;15 分钟完成训练/预测;10 分钟测 steps=0、重复样本、单特征、极端 logits、非法标签/NaN;5 分钟保证 stdout 只有约定 JSON。steps=0 时初始预测均为 0.5,可用于检查接口。

算法配套:构造与扫描

参考实现:september_coding_drills.py,附独立对拍测试。

  • 受限数字构造:训练版本允许数字重复,用给定集合构造非负整数,严格小于 n、无前导零(单独 0 除外),无解返回 None。从高位尽量贴近上界;某位降小后,后缀全部选最大数字;无法降小时向前回退,必要时改成短一位。n=23121,A={2,4,9} 应为 22999;n=222,A={2} 应为 22,不能返回相等的 222。
  • 彩门换向:保持门的原位置;资源越多只会增加可开门集合,能开就开无需等待。继续当前方向到端点不会增加换向次数;完成一整趟后若仍有门但一个都没开,再换向也无帮助。复杂度 O(n²) 对原整理稿 n≤500 可用;规模更大时应重新分析,不能照搬。测试用允许任意位置换向的状态图最短路核对小规模最优值。

两题来自字节 Agent 开发复盘和拼多多机考整理,均不硬配成某一道力扣原题。适合替换本周两道同类题,不增加每天总题量。

原始文档:GitHub 源文件。

本页目录