3.4 图卷积：从谱滤波到邻域聚合

3.4.1 从规则网格到无序邻域

3.3 节使用固定分子指纹建立预测基线，本节转向直接学习图上的表示。以单通道图像为例，一个 3×3 卷积核对九个相对位置的输入值加权求和。它具有两项适合推广的性质：局部性(locality)使每个输出只依赖有限邻域，权重共享(weight sharing)使同一组核参数用于不同位置。因此，固定通道数和核大小时，参数量不随图像尺寸增长。这构成了有用的归纳偏置，但泛化效果仍需通过数据检验。

规则网格为“左上、正上、右上”等相对位置提供了统一定义，核权重据此索引。忽略边界处理并采用单位步长时，卷积具有平移等变性(translation equivariance)：输入平移，输出随之平移。局部窗口与共享核因而可以在不同位置重复使用。

分子图 G=(V, E) 以原子为顶点、化学键为边。本节先用无向、无权、无自环的图描述连接关系，其邻接矩阵(adjacency matrix)满足 A_ij = 1 当且仅当原子 i 与 j 成键；键类型作为边属性另行处理。与网格不同，原子的邻居数可以不同：例如苯环碳有两个重原子邻居，某些支链分支点有三个，是否显式加入氢也会改变邻域。原子编号还可以任意重排，同一分子的矩阵表示随编号变化，但预测不应随之改变。一般图的邻域没有网格那样固定的方向和顺序，因而不能直接按邻居在输入中的排列分配核权重。

图模型通常在每个节点上使用同一个局部函数，并通过求和、平均或逐元素最大值等对称运算聚合邻居特征。重新编号后，节点表示应按相同方式重排，这称为置换等变；图级读出还应对重排保持不变。固定图结构时，节点特征的依赖范围可用“跳数”（hop）表示：一层沿边聚合至多传递一跳，连续 k 层的节点计算范围至多扩展到 k 跳。下面介绍一种谱方法，它从图上的线性算子定义滤波，并最终得到这样的邻域规则。

3.4.2 图的谱语言：拉普拉斯、特征分解与图频率

设图有 n 个节点，每个原子的 d 维特征组成矩阵 X ∈ ℝ^n×d。其中任意一列 x ∈ ℝⁿ都是一个图信号(graph signal)，即每个节点对应一个数值，例如一维原子描述符。节点度 d_i = Σ_j A_ij 表示邻居数，不等同于按键级计算的价；将各度数排列在对角线上得到度矩阵(degree matrix) D。组合拉普拉斯定义为：

从差分看，(Lx)_i 比较节点与邻域的信号，但正负差可以抵消，不能把它直接当作差异大小。在路径图的内部节点，(Lx)_i = 2x_i − x_i−1 − x_i+1，是通常二阶中心差分的负号形式，对应负拉普拉斯的离散约定。规则二维网格中的中心系数 4、四邻系数 −1 也来自 D − A。

若要度量不发生正负抵消的整体变化，可使用二次型：

L 的实对称性保证它具有标准正交的特征向量基，半正定性进一步保证特征值非负：

图傅里叶变换(graph Fourier transform)将信号投影到拉普拉斯特征向量基上，得到 x̂ = U^Tx。对单位范数特征向量 u_k，有 u_k^TLu_k = λ_k，所以较小特征值对应较小的逐边变化，较大特征值对应较大的逐边变化。这是将特征值解释为图频率的依据。路径图可选取采样余弦作为特征向量，环图则可用离散傅里叶模式，或相应的实正弦、余弦组合构造特征基。

在六元环上，最低非零频率可选取沿环一周完成一个周期的正弦或余弦模式；由于特征值可以重复，其特征向量基并不唯一。图上的这些模式是相对于所选拉普拉斯定义的信号基，并非分子的真实振动模态。分子振动还涉及质量、力常数和几何结构。这里使用频谱，是为了分析图信号的变化及滤波器的作用，而不是直接赋予每个模式一种化学含义。

组合拉普拉斯满足 λ_max(L) ≤ 2d_max，其谱范围会受到度数尺度影响。为获得统一的谱边界，可使用归一化拉普拉斯(normalized Laplacian)。以下先假设所有节点度数为正：

3.4.3 谱卷积：定义与参数化限制

经典卷积定理将空间中的卷积对应到傅里叶域的逐点乘法。一般图上没有可直接沿用的平移操作，但可以借助拉普拉斯特征基定义谱图卷积(spectral graph convolution)：先变换信号，对各谱分量施加增益，再变换回节点空间。Bruna 等（2014）的谱网络采用了这一思路。先考虑固定特征基下、每个谱分量独立学习增益的形式：

式 (3.4-5) 给出了明确的滤波规则，但这种无约束的逐模态参数化有三项限制。

第一，参数依赖具体谱基。不同图通常具有不同的特征值与特征向量，排序相同的谱分量并不自动具有相同的结构含义。对十七节点图独立学习的十七个增益，不能直接用于任意大小的分子图。重复特征值对应的子空间还允许旋转基；若在其中分配不同增益，滤波结果就会依赖基的选择。接近重复的特征值也可能使单个特征向量对图的扰动敏感。因此，跨图共享需要更合适的参数化。

第二，显式谱分解与稠密运算有成本。通用稠密完整特征分解通常需要 O(n³) 运算，存储完整 U 需要 O(n²) 空间，随后每次谱变换还涉及稠密乘法。稀疏或部分特征分解可以降低某些场景的成本，但不能直接消除跨图参数对应问题。对小分子单图，分解未必是主要瓶颈；对大图或大量不同图，则需要考虑累计开销。

第三，频域截断不保证空间局部性。仅保留若干低频分量，并不能保证节点输出只依赖有限跳邻域，因为这些特征向量可以在远处节点上仍非零。某些特殊滤波器能够局部化，但无约束谱增益或低频截断本身不提供有限支集保证。Defferrard 等（2016）采用拉普拉斯多项式，使滤波范围与多项式阶数建立直接联系。

3.4.4 多项式滤波、一阶近似与重归一化

将谱增益写成多项式 g_θ(Λ) = Σ_kθ_kΛ^k，由 L = UΛU^T 可得 U g_θ(Λ)U^T = Σ_kθ_kL^k。这带来三个直接结果。首先，L 只在对角线和相邻节点间非零，因此 L^k 在距离超过 k 跳的位置必为零，K 阶多项式的输出至多依赖 K 跳邻域。其次，多项式系数与节点数无关，可以用于不同图上的同类拉普拉斯，尽管这不保证跨图泛化效果。最后，逐次计算 Lx、L(Lx) 等即可求值，无需显式求出特征基。这些结论对归一化拉普拉斯也成立。

为改善高阶单项式计算的数值条件，Defferrard 等（2016）采用切比雪夫多项式(Chebyshev polynomials)。以下改用 L_sym，并以 Λ 表示它的特征值矩阵。将谱缩放为 Λ̃ = 2Λ/λ_max − I 后，特征值位于 [−1,1]。T_k 在该区间上满足 |T_k| ≤ 1，并相对于权函数 1/√(1−z²) 正交；求值可使用三项递推：

Kipf 与 Welling（2017）进一步取 K = 1，并以 λ_max ≈ 2 简化谱缩放。由于 L_sym − I = −D^−1/2AD^−1/2，此时滤波为 y ≈ θ₀x − θ₁D^−1/2AD^−1/2x。再施加单参数约束 θ₀ = −θ₁ = θ，得到 y ≈ θ(I + D^−1/2AD^−1/2)x。取 2 是利用谱上界进行近似，并不是断言每张图的最大特征值都等于 2。

原算子 I + D^−1/2AD^−1/2 的谱位于 [0,2]，反复使用可能放大部分方向。作者因此引入重归一化(renormalization)：先令 Ã = A + I，再按新度矩阵 D̃ 计算 S = D̃^−1/2ÃD̃^−1/2。这是用新算子替换原算子，并非恒等项与归一化的代数合并；自环和邻边的系数都随新度数改变。原论文第 2.2 节与官方预处理实现均采用先加自环、再归一化的顺序。将标量滤波推广到多通道特征，得到图卷积网络(graph convolutional network, GCN)的传播式：

将矩阵式按节点展开，可直接得到邻域更新规则：

GCN 的参数不绑定特定图的特征基，同一组 W 可用于不同大小的图。将多个分子组织为互不连接的图批次后，可以进行稀疏聚合，并按图分别读出。代价是单层只直接传递一跳信息，更远的节点交互需要多层传播或其他连接机制。表 3.4-1 比较了三种参数化；局部范围描述的是依赖上界，不保证其中每个节点都对输出有非零影响。

3.4.5 对称归一化聚合的逐元素解释

令 S = D̃^−1/2ÃD̃^−1/2，则 S_ij = Ã_ij/√(d̃_id̃_j)。固定中心节点 i 时，邻居 j 的新度数越大，其单条消息系数越小；固定 j 时，中心节点度数也影响该系数。这种归一化调节的是按边传播的尺度，不能据此断言高度数节点的总体影响必然较小。特别地，S 的行和一般不为 1，它定义的是加权求和。对无向非负邻接且每个节点均有正自环的图，S 为对称矩阵，谱位于 (−1,1]，所以单独应用 S 不增大信号的二范数；加入 W 与非线性后的完整网络还需单独分析。

当图为正则图、所有 d̃ 相等时，S = Ã/d̃，每行和每列之和均为 1，聚合恰为包含自身的邻域算术平均。例如苯环重原子图加自环后 d̃ = 3。一般非正则图没有这样的保证，行和偏离 1 也不构成独立、完整的度数不均衡指标。随机游走形式 P̃ = D̃⁻¹Ã 则始终每行和为 1，直接计算各节点闭邻域的平均。S 与 P̃ 相似，特征值相同；S 的实对称性还允许使用标准正交特征基，但不能据此宣称它在所有任务中都更稳定或更有效。

式 (3.4-9) 是消息传递(message passing)的一个特例：可定义消息 m_ij = S_ijh_jW，对消息求和，再用 σ 更新节点。也可先聚合再乘 W，因为线性变换与这里的加权求和可交换。3.5 节将分别讨论消息、聚合、更新，以及将节点表示汇总为图级向量的读出函数(readout function)。本节的传播系数仅由连接关系和度数决定；消息内容仍依赖原子特征与可学习 W。3.6 节的注意力机制进一步让系数依赖特征。

3.4.6 过平滑与层数的选择

为分析传播对节点差异的影响，先去掉 W 与 σ，只考察固定算子 S 的幂。设图有限、无向且连通，并给每个节点加入正自环。令 P̃ = D̃⁻¹Ã，则 P̃ = D̃^−1/2S D̃^1/2，两者相似。P̃ 是不可约、非周期的随机游走转移矩阵，因此：

对随机游走传播，P̃^kX 的每一行趋于同一个按 π 加权的特征向量。对称传播的极限有所不同：令 v = D̃^1/21，可由相似关系得到 \(S^k \to vv^{T}/(v^{T}v)\)。因此 S^kX 的第 i 行趋于 √d̃_i 乘以一个公共向量；在非正则图上，各行未必数值相同，但除度数缩放外的节点差异会消失。若以 μ_r 表示 S 的特征值，所有非主导方向都满足 |μ_r| < 1，经过 k 次传播后乘以 μ_r^k。

这为过平滑(over-smoothing)提供了一个可分析的例子：反复传播使表示逐渐接近低维子空间，可能损失区分节点所需的信息。Li 等（2018）据此讨论了 GCN 的拉普拉斯平滑作用。完整网络还包含特征变换与非线性，不能直接用 S^k 代替；例如 Oono 与 Suzuki（2020）的非线性 GCN 分析，需要权重尺度与图谱满足相应条件。残差、归一化、初始特征注入和其他连接方式也会改变传播过程，完整网络的深度效应应依据具体结构与参数分析。

层数实验也有具体适用范围。Kipf 与 Welling 的主要实验采用两层 GCN；其附录 B 在 Cora、Citeseer、Pubmed 的特定交叉验证设置下报告最佳结果来自两层或三层模型，并比较了残差连接。这些结果不能直接规定分子性质预测的最优深度，也不能将所有随深度发生的性能下降都归因于过平滑。

一阶局部 GCN 的 L 层节点感受野(receptive field)至多覆盖 L 跳。六元环的直径为 3，因此三层的计算范围可以覆盖整个环；但范围覆盖不等于完整保留信息，也不意味着第四层无法改善非线性表示。图级读出即使在浅层也可以汇总全图节点，然而这又不同于远距离节点在读出前已经充分交互。分子图直径及任务所需的交互距离应根据具体数据分析，不宜用单一经验值替代。

实现的默认配置同样不能当作理论结论。所核对的 DeepChem GCNModel 实现在未指定层宽时采用 [64,64]，即两层图卷积；TorchDrug GCN则要求提供 hidden_dims，没有统一的默认层数。可以从浅层基线开始，在固定数据划分与评价规则下比较不同深度，并分别检验残差、归一化或多层读出的效果。仅在局部邻域内计算的注意力也不会自动缩短图距离，长程交互还取决于连接结构与读出设计。

3.4.7 从 GCN 到消息传递

本节将谱滤波与邻域计算联系起来：多项式约束提供局部性，一阶近似和重归一化形成 GCN 的传播算子，共享 W 则学习如何组合特征。相同度数会给出相同的结构系数，但不同原子特征仍可产生不同消息；基础 GCN 的主要限制是传播系数不直接依赖键类型和节点内容。下一节将分别扩展消息、聚合、更新与读出，3.6 节再讨论注意力机制。用于 Tox21 等性质任务时，还应结合 MoleculeNet（Wu et al., 2018）所强调的数据划分与评价设置，与固定指纹基线比较；不同论文中的“图卷积”模型不能仅凭名称视为同一个结构。