Aug 23, 2026 5 min read
01. The Annotated Transformer:把论文变成可执行的解释
这份材料逐行实现 Transformer,把论文里分散的结构、掩码、训练日程和解码细节连接成一台能运行的机器。它本身没有提出 Transformer,却解释了“公式都看懂了,为什么代码仍容易写错”。
大模型算法、训练系统与工程实践的学习笔记。
Tag
2 essays under this label.
这份材料逐行实现 Transformer,把论文里分散的结构、掩码、训练日程和解码细节连接成一台能运行的机器。它本身没有提出 Transformer,却解释了“公式都看懂了,为什么代码仍容易写错”。
Transformer 去掉 encoder/decoder 中的循环和卷积,用多头自注意力在一层内连接任意位置,再用逐位置 MLP 变换内容。它将训练的关键顺序依赖从 O(n) 降为常数层级,使大规模并行训练和短路径长程依赖同时成为可能。