文章
ML / AI Coding 算法岗笔试补丁
JSON 契约、数值稳定、Viterbi、Attention、IRLS、搜索排序/NDCG、Apriori 与 MITM 的限时实现要点。
专题 大模型算法岗求职笔记 第 5 篇 / 共 13 篇
本文是个人求职工作区文档的发布版,更新于 2026-09-08(北京时间凌晨快照)。源文件托管在 GitHub 仓库 llm-algo-job-notes;历史章节保留各自证据日期,岗位状态见最新窗口日志。
更新至 2026-09-08。最新 §13 补京东 NumPy/JSON 逻辑回归,以及通用算法与 Agent 开发相邻岗练习。历史题型仍包括 Viterbi、Attention、IRLS、排序/NDCG 等;公开题面缺失部分明确采用自拟训练契约。
可执行零依赖实现:ml_ai_coding_exam.py;自动测试:test_ml_ai_coding_exam.py。
1. 七类题面信号
| 题面 | 核心模式 | 必须先确认 |
|---|---|---|
| 自然语言业务规则,要求 AI/Prompt 实作 | schema → validator → pure solve → serializer | 输入字段、默认值、错误协议、输出是否只允许 JSON |
| 训练正常样本并检测异常 | 标准化 + One-Class 模型 + 验证选参 | 分数方向、阈值、训练/验证泄漏、并列参数规则 |
| 手写 Logistic Regression/Newton/IRLS | sigmoid + 梯度 + Hessian + 线性求解 | bias 是否正则、label 编码、停止条件、奇异矩阵 |
| HMM、状态序列、最可能路径 | 对数域 Viterbi + 回溯指针 | pi/A/B 方向、观测编号、零概率、并列路径 |
| Q/K/V、Top-k、门控、归一化 | 缩放点积 Attention | shape、scale、mask、Top-k 并列、门控位置 |
| query、商品/文档特征、预测分数、NDCG@k | 分组搜索排序流水线 | 按 query 切分、防泄漏、相关度定义、提交顺序 |
| 事务集合/固定选一半/和最接近 | Apriori 或 MITM | 候选剪枝、按选择个数分桶、JSON 确定性输出 |
2. 统一机考提交协议
stdin 单个 JSON
→ parse:只解析,不做业务计算
→ validate:类型、必填字段、shape、范围
→ solve:纯函数,不读全局、不打印
→ serialize:只输出一个 JSON,禁止 debug 日志
建议函数签名:
def dispatch(request: dict) -> dict:
...
def main():
request = json.loads(sys.stdin.read())
print(json.dumps(dispatch(request), separators=(",", ":")))
仓库模板已实现 sigmoid、viterbi、attention 三种 JSON task。真实考试字段不同,应保留四阶段结构,只改 schema 和算法参数。
3. 数值稳定速查
| 问题 | 错误写法 | 稳定做法 |
|---|---|---|
| sigmoid | 1/(1+exp(-x)) 对大负数溢出 | x≥0 与 x<0 分支计算 |
| softmax | 直接 exp(logit) | 每行先减最大值 |
| log 概率累乘 | 连乘后下溢为 0 | 全程加 log(p),p=0→-inf |
| logsumexp | log(sum(exp(x))) | m + log(sum(exp(x-m))) |
| Newton/IRLS | inv(H) @ g | 解线性方程 H·step=g,必要时 L2 正则 |
| 标准化 | 全数据 fit scaler | 只在训练集 fit,再 apply 到验证/测试 |
| 零方差列 | 除以 0 | 明确保留为 0 或按题面删除 |
每次矩阵计算后检查:shape 是否正确、结果是否 finite、概率行和是否接近 1。
4. Viterbi 模式
状态:dp[t][s] 是处理到第 t 个观测、最终处于状态 s 的最大对数概率。
转移:
dp[t][s] = log B[s][obs[t]]
+ max_p(dp[t-1][p] + log A[p][s])
parent[t][s] = 取得最大值的 p
最后从最佳终态沿 parent 逆序回溯。并列时固定选较小状态编号,才能让隐藏测试稳定。
必测:单状态、单观测、零转移、零发射、不可达序列、空观测、非法 symbol。
5. 门控 Top-k Attention 模式
对 Q[Lq,d]、K[Lk,d]、V[Lk,dv]:
score[i][j] = dot(Q[i], K[j]) / sqrt(d)。- 每行选 Top-k;分数并列按 key 下标。
- 仅对选中项做 stable softmax。
- 对 V 加权求和。
- 按题面在输出或权重处应用 gate,不能自行假定。
不要因为题面出现 Top-k 就把整题判成堆题:Top-k 只是 Attention 流水线中的技术部件。
必测:Lq≠Lk、dv≠d、k=1/Lk、并列分数、极大 logits、非法 k、gate 为 0。
6. IRLS / Newton Logistic Regression
负对数似然的梯度和 Hessian:
p = sigmoid(Xw)
g = Xᵀ(p-y) + λw
H = Xᵀ diag(p(1-p)) X + λI
solve H·step = g
w ← w - step
工程规则:
- 截距列是否正则化必须按题面;仓库模板默认不正则 bias。
- 不显式求逆;奇异 Hessian 应增加正则或明确失败。
- 返回
converged和迭代次数,不要悄悄假装收敛。 - 完全可分数据会让无正则权重发散,测试时应加 L2。
必测:共线特征、单类别、完全可分、max_iter=0、非法 label、极端特征值。
7. One-Class SVM / 异常检测流水线
这类题依赖题目允许的库和版本,本仓库不新增 sklearn 生产依赖;训练时掌握流水线而不是背构造器参数:
仅正常训练样本 X_train_normal
→ fit scaler(X_train_normal)
→ transform train/validation
→ 遍历 gamma/nu 等参数
→ 在验证集按题目指标选参
→ 固定并列规则
→ 用全部允许的正常样本重新 fit scaler 和模型
→ 对测试集输出规定方向的 score/label
常见致命错误:在验证/测试上重新 fit scaler;把 decision_function 正负方向写反;参数并列时依赖字典遍历;不固定随机种子。
8. 搜索排序与 NDCG@k
2026-08-18 美团公开题面要求:根据 query、商品文本/品牌、价格、评分、点击/加购等字段输出排序分数,以 NDCG@10 评估。训练时先掌握最小正确流水线:
读表并确认一行代表 query-item 对
→ 按 query 分组切 train/validation(同一 query 不跨集合)
→ 文本匹配特征 + 品牌/价格/评分 + 行为特征
→ pointwise baseline(线性/树模型)
→ 每个 query 内按 score 降序
→ 计算 NDCG@10
→ 输出 id,score,保持测试行一一对应
对一个 query,预测顺序下的相关度为 rel_i:
IDCG@k 是按真实相关度降序的理想 DCG;若该 query 的 IDCG=0,必须按题面约定返回 0 或跳过,不能除零。常见失败:随机按行切分造成 query 泄漏;把点击/加购当测试时可用标签;跨 query 比 score 大小;排序并列不固定;训练时优化全局 AUC 却用 NDCG 选模型。
60 分钟 baseline 顺序:先字符/词项重叠、品牌精确匹配、价格差/评分等可解释特征;再上 TF-IDF/BM25 或允许的树模型;最后才调复杂模型。每轮只改一个模块并保存 validation NDCG,避免让 AI 助手一次性重构全项目。
9. Apriori 与按个数分桶的 MITM
这两类题不是“大模型算法”,但以 JSON/业务故事包装进入算法岗卷面:
- Apriori:由频繁
k项集按共同前缀连接候选k+1项集;若候选任一k子集不在上一层频繁集合,立即剪枝;扫描事务计 support;输出按长度、字典序固定排序。 - 精确选一半的 MITM:左右两半分别枚举
(选择个数, 子集和);按选择个数互补配对;对一侧排序,在目标附近二分。不要只保存总和而丢失“选了几个”的约束。
验收用小规模暴力对拍:Apriori 枚举所有 item 子集;MITM 枚举所有固定大小组合。JSON 中 tuple/list、整数顺序和重复事务的处理必须确定。
10. 类 Kaggle ML 半卷:先交付,再提分
2026-08-25 美团大模型算法公开样本中,选择 30 分、算法 20 分、AI Coding 50 分;关联题面是给训练/测试表、目标字段与命令行契约的类 Kaggle ML 任务。这意味着训练时不能只会某个固定模型,要会在陌生 schema 下快速建立可运行、可评分、无泄漏的闭环。
收到目录后按这个顺序:
README / SCHEMA / 样例提交
→ 确认目标、可用字段、产生时点和禁用泄漏字段
→ 读 train/test 的列、dtype、缺失、主键与时间范围
→ 合法切分(时间/用户/query/group 优先,不能默认随机行切)
→ dummy/线性/树 baseline
→ 本地指标与提交格式双校验
→ 每轮只改一类特征或一个模型,记录 score 与耗时
15 分钟硬门槛:命令 python main.py --input ... --output ... 能跑通;输出行数、主键、列名、dtype、NaN/Inf 都合法;本地有一个可复现 baseline 分数。达不到这条线时先修契约,不调参。
常见失败:随机切分泄漏未来/同用户信息;把测试期才产生的行为字段当特征;离线指标与平台指标实现不一致;AI 一次性重构后无法定位退化;只看 public score 不保留本地验证。每次让 AI 修改前先写预期,修改后看 diff、跑最小样例和验证集;分数不涨先排查数据与指标,不立即换“更强模型”。
11. AI Coding 的 60–90 分钟节奏
- 0–10 分钟:读任务契约、schema、指标和样例;列出三种最可能的泄漏。
- 10–20 分钟:完成 parse/validate/serialize 或数据读取/合法提交,跑通最小 baseline。
- 20–55 分钟:先写正确直接实现;建模题只做一轮可解释特征和一个稳健模型。
- 55–70 分钟:补空集合、重复、Unicode、边界值、缺失、并列、非法输入与切分检查。
- 70–85 分钟:只做有依据的一到两次单变量迭代,每次保存本地分数与 diff。
- 85–90 分钟:回滚不稳定改动;检查 stdout/文件格式、行数、NaN/Inf、随机种子和最终运行命令。
12. 验收线
stable_sigmoid(±1000)不溢出,softmax 行和约为 1。- Viterbi 能与小状态暴力枚举对拍。
- Attention 明确所有 shape,Top-k 并列结果可复现。
- IRLS 在有正则的小二分类数据上收敛,权重全部 finite。
- CLI 重复运行输出一致,且 stdout 只有一个可解析 JSON。
- One-Class 流水线能解释每一步数据来自哪里,不发生训练/验证泄漏。
- 能手算一个 query 的 NDCG@3,并处理
IDCG=0;训练/验证按 query 隔离。 - Apriori 和固定选 k 个的 MITM 能与小规模暴力枚举对拍,输出顺序稳定。
- 给一份陌生表格 schema,15 分钟内跑通合法 baseline;能解释切分单位、三种泄漏风险、本地指标与提交契约。
运行:
python3 -m unittest discover -s '笔试/AI算法/模型手写/tests' -v
13. 9 月 8 日增量:逻辑回归完整交付
京东 9.05 亲历帖只确认 NumPy、JSON 训练/测试集输入与测试概率输出,没有公开完整字段、学习率、初始化或优化器。本节是明确约定的训练版本,不能当作完整原题答案。
自拟契约:输入 X_train[n,d]、y_train[n](0/1)、X_test[m,d]、lr、steps;零初始化,带 bias、无正则、全批梯度下降;不自动标准化。真实题面若规定正则、归一化或迭代条件,按题面修改。
令 z = Xw+b、p = sigmoid(z),平均二元交叉熵对参数的梯度为:
每轮先用同一组旧参数算出两个梯度,再更新 w 和 b。稳定 sigmoid 按 z 正负分支计算;不要用会同时计算两条指数分支的写法造成溢出。全零初始化在逻辑回归中可用,不能把深层网络的神经元对称性问题机械套过来。
可执行入口:logistic_json_drill.py;测试:test_logistic_json_drill.py。NumPy 是该练习依赖,其余旧模板仍有零依赖版本。
35 分钟训练流程:5 分钟检查 schema 和 shape;15 分钟完成训练/预测;10 分钟测 steps=0、重复样本、单特征、极端 logits、非法标签/NaN;5 分钟保证 stdout 只有约定 JSON。steps=0 时初始预测均为 0.5,可用于检查接口。
算法配套:构造与扫描
参考实现:september_coding_drills.py,附独立对拍测试。
- 受限数字构造:训练版本允许数字重复,用给定集合构造非负整数,严格小于 n、无前导零(单独 0 除外),无解返回
None。从高位尽量贴近上界;某位降小后,后缀全部选最大数字;无法降小时向前回退,必要时改成短一位。n=23121,A={2,4,9}应为22999;n=222,A={2}应为22,不能返回相等的222。 - 彩门换向:保持门的原位置;资源越多只会增加可开门集合,能开就开无需等待。继续当前方向到端点不会增加换向次数;完成一整趟后若仍有门但一个都没开,再换向也无帮助。复杂度 O(n²) 对原整理稿 n≤500 可用;规模更大时应重新分析,不能照搬。测试用允许任意位置换向的状态图最短路核对小规模最优值。
两题来自字节 Agent 开发复盘和拼多多机考整理,均不硬配成某一道力扣原题。适合替换本周两道同类题,不增加每天总题量。
原始文档:GitHub 源文件。