主要先修：7.3 协方差、和的方差与相关系数、9.5 Lp空间与一致可积性、10.6 中心极限定理及其推广、11.1 相对于信息的条件期望、19.1 随机阶与渐近展开。
从条件期望、L²和CLT进入Hoeffding分解，并区分非退化与退化极限。谱展开作为进一步阅读，使用文中明确引用的积分算子谱定理；无需先完成核回归。 查看全书依赖图与分支路线。
22.5.1 平均所有不同观测对
样本均值把每个观测单独代入函数再平均。若目标包含两个独立观测之间的关系，可以把不同观测对代入同一个函数。设\(X_1,\ldots,X_n\) iid来自实数上的概率分布\(P\)，\(n\ge2\)；实值函数\(h(x,y)\)可测、对称，且\(E h(X_1,X_2)^2<\infty\)。称\(h\)为二阶核，目标是\(\theta=E h(X_1,X_2)\)。这里的“核”指作用于两个观测的函数，与核密度估计中的平滑权函数用途不同。
每对不同下标只使用一次，总共\(\binom n2\)项。平方可积保证可积，每项期望均为\(\theta\)，有限求和立即给\(E U_n=\theta\)。这是一种无偏估计构造。
这些项并不独立：\(h(X_1,X_2)\)和\(h(X_1,X_3)\)共享一个观测。不能把有效独立样本数当成\(\binom n2\)，再机械引用独立和的中心极限定理。下面的投影分解才确定正确尺度。
若把经验分布直接代入目标，则通常得到包含对角项的V统计量。二阶情形满足精确关系
V统计量一般有偏；要取其期望还需对角项可积。\(h\in L^2(P\times P)\)本身并不控制\(h(X,X)\)：连续分布的对角集合在乘积测度下为零。例如\(h(x,y)=xy\)估计\(\mu^2\)，若\(EX^2<\infty\)，U无偏，而\(V_n=\bar X^2\)的期望为\(\mu^2+\sigma^2/n\)。两者在某些尺度下接近，却不能据此忽略退化情形的对角项。
22.5.2 Hoeffding投影与精确方差
定义一阶投影和二阶余项（函数等式均允许在相应测度的零集外成立）：
由Jensen不等式与平方可积性，两者都有有限二阶矩。\(E h_1(X)=0\)，并且\(E\{h_2(X_1,X_2)\mid X_1\}=0\)几乎必然；对第二个坐标也成立。这个条件均值为零的性质称为二阶核的退化性质。设\(\zeta_1=E h_1(X)^2\)、\(\zeta_2=E h_2(X_1,X_2)^2\)。
两个求和部分不相关；余项中不同观测对的项也彼此不相关，但一般不独立。
完整证明。把核的定义代入U求和。每个\(h_1(X_i)\)出现\(n-1\)次，除以\(n(n-1)/2\)得到系数\(2/n\)。线性项的方差为\(4\zeta_1/n\)。若两个余项下标对没有重合，独立性与均值零使协方差为零；若只共享\(X_i\)，给定\(X_i\)后其余两个观测独立，条件乘积期望是两个零条件均值的乘积。因此不同对的协方差仍为零，余项方差为\(\zeta_2/\binom n2\)。
同样，\(h_1(X_k)\)与不含下标\(k\)的余项独立；含\(k\)时用条件均值为零得到乘积期望为零。于是两个求和部分不相关，方差相加，得到公式。所有乘积均由Cauchy–Schwarz保证可积，条件期望计算合法。证毕。
22.5.3 何时中心极限定理成立
在上述iid、固定核和平方可积条件下，若\(\zeta_1>0\)，则
证明。一阶投影是iid、零均值、有限方差的随机变量，独立和的CLT给\(2n^{-1/2}\sum_i h_1(X_i)\Rightarrow N(0,4\zeta_1)\)。另一方面\(E[(\sqrt nR_n)^2]=2\zeta_2/(n-1)\to0\)，故余项在此尺度下依概率趋零。用Slutsky定理即得结论。证毕。
若\(\zeta_1=0\)，一阶投影几乎必然消失，\(\sqrt n(U_n-\theta)\)在二阶矩意义下趋零。这不是方差为正的正态近似；应重新确定尺度和极限分布。“退化”取决于核与抽样分布的组合，不表示核是常数、统计量无偏性失败或样本没有变异。
取\(h(x,y)=(x-y)^2/2\)，\(EX=\mu\)、\(\operatorname{Var}X=\sigma^2\)、\(\mu_4=E(X-\mu)^4<\infty\)。展开平方可得\(\sum_{i<j}(X_i-X_j)^2=n\sum_i(X_i-\bar X)^2\)，因此U正是分母为\(n-1\)的样本方差\(S^2\)，目标为\(\sigma^2\)。直接求条件均值得
所以\(\zeta_1=(\mu_4-\sigma^4)/4\)、\(\zeta_2=\sigma^4\)，得到精确方差
当\(\mu_4>\sigma^4\)，正态极限的方差为\(\mu_4-\sigma^4\)。若总体正态、\(\sigma^2=4,n=5\)，则\(\mu_4=48\)，两项分别为6.4与1.6，总方差为8，与精确卡方分布一致。四个数据\((1,2,4,5)\)的均值为3，六个核值为0.5、4.5、8、2、4.5、0.5；平均为\(10/3\)，也等于通常样本方差。该数值是一次观测值，与前面的抽样方差不同。
22.5.4 一个完整的非正态极限
取\(h(x,y)=xy\)，首先令\(X_i\) iid标准正态。此时\(\theta=0\)、\(h_1=0\)、\(h_2=h\)、\(\zeta_2=1\)。于是\(\operatorname{Var}(U_n)=2/[n(n-1)]\)。用平方和恒等式改写：
完整推导。分子第一部分由CLT和连续映射趋于\(Z^2\)，第二部分由强大数定律趋于1，分母趋于1。依概率收敛到常数保证与第一部分联合收敛，Slutsky定理给上式；无需、也没有声称两个部分在有限样本下独立。极限均值为零、方差为2，支持集为\([-1,\infty)\)，因此不是正态。相反\(\sqrt nU_n\to0\)，错误地坚持\(\sqrt n\)尺度会漏掉全部非平凡波动。
同一证明只需\(EX=0,EX^2=1\)，故独立等概率\(\pm1\)样本也有这个极限。若\(n=4\)，和\(S=\sum X_i\)取\(\pm4,\pm2,0\)，U分别取1、0、\(-1/3\)，合并概率为\(1/8,1/2,3/8\)。其期望为0，方差为\(1/6\)，验证精确方差公式。图22.5-2画出\(nU\)的这三个原子。
对V统计量则\(nV_n=(n^{-1/2}\sum_iX_i)^2\Rightarrow Z^2\)。对角项在\(n\)尺度留下常数1，使U和V的极限不同。它们的差依概率趋零，并不足以保证乘以\(n\)后的差仍可忽略。
22.5.5 退化核的谱展开
乘积核只有一个方向。一般对称退化核可以包含多个方向。定义\(L^2(P)\)上的积分算子\((Tg)(x)=\int h_2(x,y)g(y)dP(y)\)。平方可积和对称性使它成为自伴Hilbert–Schmidt算子。这里引用该算子的谱定理：存在非零实特征值\(\lambda_j\)和正交归一函数\(e_j\)，使
因\(T1=0\)，非零特征值对应的\(e_j\)均值为零。谱定理属于此处引用的泛函分析结论；以下统计极限的推导完整给出。若\(\zeta_1=0\)，则
从谱展开推导极限。先保留前\(k\)个核方向，称所得U为\(U_n^{(k)}\)。逐项使用乘积核恒等式：
固定\(k\)时，正交归一给投影向量协方差单位阵，多元CLT得到独立标准正态极限；各平方的平均由大数定律趋于1。故有限项极限为\(\sum_{j\le k}\lambda_j(Z_j^2-1)\)。核尾部仍退化，前面精确方差公式给
这个界对\(n\ge2\)一致趋零。另一方面，独立中心化平方变量使极限级数的尾方差为\(2\sum_{j>k}\lambda_j^2\)，故级数在\(L^2\)中收敛。对任意有界Lipschitz测试函数，两端截断误差由Cauchy–Schwarz控制；先令\(n\to\infty\)，再令\(k\to\infty\)，得到完整极限。证毕。
这允许正负特征值；不能把一般加权中心化卡方和称为一个卡方分布。乘积核在标准正态分布下只有\(e_1(x)=x,\lambda_1=1\)，恢复例2。零核对应所有特征值为零，极限也为零。
22.5.6 适用范围与更高阶统计量
固定阶数\(m\)的U统计量对所有不同的\(m\)个下标取平均。其Hoeffding分解包含一至\(m\)阶投影；本节完整证明限于二阶。一般固定阶核平方可积、第一投影方差\(\zeta_1>0\)时，引用标准U统计量CLT：\(\sqrt n(U_n-\theta)\Rightarrow N(0,m^2\zeta_1)\)，详见参考文献。若低阶投影连续消失，尺度和极限结构进一步改变，不能把本节二阶系数原样用于任意阶数。
上述论证还固定核和总体分布。依赖观测、样本量变化的核、抽取少量观测对的不完全U统计量，都需另给方差与极限定理。退化U的重抽样也不能直接套用样本均值Bootstrap的有效性证明。统计量是否无偏、是否一致，以及是否渐近正态，是三个不同问题。
22.5.7 习题与完整解答
习题22.5-1 · 线性核仍以n为有效规模
令\(h(x,y)=x+y\)，\(EX=\mu\)、\(0<\operatorname{Var}X=\sigma^2<\infty\)。计算U、两个投影及其精确方差和极限。
目标为\(2\mu\)，条件均值给\(h_1(x)=x-\mu\)、\(h_2=0\)。每个观测在所有对中出现\(n-1\)次，故\(U_n=2\bar X\)。因此精确方差为\(4\sigma^2/n\)，而\(\sqrt n(U_n-2\mu)\Rightarrow N(0,4\sigma^2)\)。虽平均了\(\binom n2\)个核值，实际波动来自n个独立观测；这些共享下标的核值不能当作独立样本。
习题22.5-2 · 两点总体的样本方差退化
令\(X_i\)独立等概率取\(\pm1\)。证明样本方差的第一投影为零，并求\(n(S^2-1)\)的极限及精确方差。
此时\(\mu=0,\sigma^2=1,\mu_4=1\)，因此\(h_1(X)=(X^2-1)/2=0\)，\(h_2(x,y)=-xy\)在总体支持上成立。\(S^2-1\)等于乘积核U的相反数，故\(n(S^2-1)\Rightarrow1-Z^2\)，精确方差为\(2/[n(n-1)]\)。也可由\(S^2=n(1-\bar X^2)/(n-1)\)直接推出。总体非零方差没有阻止投影退化；不能用方差为零的正态极限替代这个n尺度极限。
习题22.5-3 · 两个谱方向的非卡方和
观测为独立向量\(X_i=(A_i,B_i)\)，各坐标独立标准正态，核为\(h(x,y)=x_1y_1-2x_2y_2\)。求精确方差与n尺度极限。
向量情形的相同条件期望证明仍成立。目标和第一投影均为零；两个坐标函数正交归一，特征值为1和−2，\(\zeta_2=1^2+(-2)^2=5\)。所以\(\operatorname{Var}(U_n)=10/[n(n-1)]\)，且\(nU_n\Rightarrow(Z_1^2-1)-2(Z_2^2-1)\)，两Z独立。极限均值为零、方差为10，既可取正值也可取负值，不能称作普通卡方分布。这里只需有限秩展开，不需无穷级数逼近。
习题22.5-4 · 对角项能否忽略
对\(h(x,y)=xy\)，比较\(n(V_n-U_n)\)在\(EX=0,EX^2=1\)条件下的极限；再解释为什么乘积测度平方可积不控制一般核对角线。
精确关系给\(n(V_n-U_n)=-U_n+n^{-1}\sum_iX_i^2\)。前者由精确方差趋零，后者由大数定律趋1，所以差趋1。这解释了两种n尺度极限之间的中心化差异。若P连续，把任意可测函数g放在\(h(x,y)=g(x)\mathbf1_{x=y}\)上，则乘积测度下核几乎处处为零，其二阶矩为零；但\(h(X,X)=g(X)\)可不可积甚至无有限二阶矩。要处理V的对角项必须单独声明所需条件。
关键术语
- 对称核：交换输入观测不改变函数值。
- U统计量：对全部不同下标组合的核值取平均。
- V统计量：直接代入经验分布得到、通常包含重复下标的核平均。
- Hoeffding投影：把核分解为不同阶数、正交的条件期望成分。
- 非退化：第一投影具有正方差。
- 退化核：给定任一输入时，核的条件均值为零。
- Hilbert–Schmidt算子：本节由平方可积核定义、具有平方可和特征值的积分算子。
- 谱展开：用正交特征函数和对应特征值表示核。
参考文献
- John Duchi，2021，Stanford Stats 300b，U Statistics。大学官方讲义，给出U定义、投影与非退化渐近理论。
- Xiaohui Chen，U-statistics，作者公开综述。第2节给出一般固定阶数的CLT和退化谱极限，第3节说明更高阶、变核与重抽样需要额外理论。本文的二阶方差、有限样本算例和谱截断推导在正文逐步给出。