Aug 23, 2026 4 min read
17. Relation Networks:把“比较对象”写进网络的计算图
Relation Network(RN)枚举对象对,用同一个 gθ 计算每对关系,求和后由 fφ 回答问题:RN(O)=fφ(Σi,jgθ(oi,oj))。它把关系推理所需的参数共享、全对比较和顺序不变性直接放进架构,而不是指望普通 MLP/CNN 从数据中偶然学会。
大模型算法、训练系统与工程实践的学习笔记。
Tag
1 essay under this label.
Relation Network(RN)枚举对象对,用同一个 gθ 计算每对关系,求和后由 fφ 回答问题:RN(O)=fφ(Σi,jgθ(oi,oj))。它把关系推理所需的参数共享、全对比较和顺序不变性直接放进架构,而不是指望普通 MLP/CNN 从数据中偶然学会。