本节把 10.1 节的一维依分布收敛推广到 \(\mathbb R^d\)。弱收敛研究分布本身；连续映射与 Slutsky 定理则说明，已有的分布极限怎样传递给变换、随机标准化和估计量。全文的测度均为欧氏空间上的 Borel 概率测度，\(\|\cdot\|\) 表示欧氏范数。
10.3.1 有界连续测试函数与弱收敛
记 \(C_b(\mathbb R^d)\) 为所有有界连续实函数。若概率测度 \(\mu_n,\mu\) 满足
就称 \(\mu_n\) 弱收敛到 \(\mu\)。当它们分别是 \(X_n,X\) 的分布时，也写 \(X_n\Rightarrow X\)。这些变量不必位于同一概率空间。
“有界”使所有测试积分有限，“连续”限制了测试函数对边界的敏感程度。比如 \(\delta_{1/n}\Rightarrow\delta_0\)，因为 \(f(1/n)\to f(0)\)；但集合 \(\{0\}\) 的概率始终从 \(0\) 跳到极限的 \(1\)。这里 \(\delta_x\) 表示集中在 \(x\) 的单位点质量。函数 \(f(x)=\|x\|^2\) 不属于 \(C_b\)，所以定义本身不保证二阶矩收敛。
10.3.2 Portmanteau：从测试函数到集合概率
对 \(\mathbb R^d\) 上的概率测度 \(\mu_n,\mu\)，表中的四条陈述等价。记 \(\partial A=\overline A\setminus A^\circ\) 为边界；满足 \(\mu(\partial A)=0\) 的 Borel 集称为 \(\mu\) 的连续集。
| 对象 | 条件或结论 |
|---|---|
| 有界连续函数 | \(\int f\,d\mu_n\to\int f\,d\mu\)，对所有 \(f\in C_b\) |
| 闭集 \(K\) | \(\limsup_n\mu_n(K)\le\mu(K)\)，对所有闭集 |
| 开集 \(G\) | \(\liminf_n\mu_n(G)\ge\mu(G)\)，对所有开集 |
| 连续集 \(A\) | \(\mu_n(A)\to\mu(A)\)，只要求 \(\mu(\partial A)=0\) |
证明。先从弱收敛推出闭集不等式。对非空闭集 \(K\)，距离函数 \(d(x,K)=\inf_{y\in K}\|x-y\|\) 连续。令
每个 \(f_m\) 都在 \(C_b\) 中，且支配 \(\mathbf1_K\)，所以
最后一步用控制收敛定理；空集的结论直接成立。开集与闭集不等式通过取补集相互推出。对连续集 \(A\)，用 \(A^\circ\subseteq A\subseteq\overline A\) 夹逼，并利用 \(\mu(\overline A)=\mu(A^\circ)=\mu(A)\)，即得集合概率收敛。
为证明连续集条件反过来推出弱收敛，先取连续函数 \(0\le f\le1\)。除至多可数个 \(t\) 外，\(\mu\{f=t\}=0\)；又因 \(\partial\{f>t\}\subseteq\{f=t\}\)，故 \(\mu_n\{f>t\}\to\mu\{f>t\}\) 对几乎所有 \(t\) 成立。尾积分公式和控制收敛给出
任意有界连续实函数经平移、缩放便落入 \([0,1]\)，因此得到全部测试函数的收敛。证毕。
多元 CDF 判据。令 \(F_n(x)=\mu_n(\prod_{i=1}^d(-\infty,x_i])\)，\(F\) 同理定义，则
正向来自连续集条件：在这样的 \(x\)，下方正交区域的边界质量为零。反向可逐坐标选择避开边缘原子的可数稠密端点集；边缘原子的位置至多可数。以这些端点组成的半开矩形，其顶点都是 \(F\) 的连续点，容斥公式便给出矩形概率收敛。任意开集都是包含于其中的这类矩形的可数并，有限并可细分为不交矩形；先取有限并的极限，再递增到整个开集，就得到 Portmanteau 的开集不等式。判据要求联合 CDF；仅有各坐标的边缘收敛不能确定坐标间的依赖关系。
10.3.3 紧性与收敛子列
概率测度序列 \((\mu_n)\) 称为紧的，如果对每个 \(\varepsilon>0\)，存在同一个紧集 \(K_\varepsilon\)，使 \(\sup_n\mu_n(K_\varepsilon^c)<\varepsilon\)。在 \(\mathbb R^d\) 中，等价地可取闭球：
这里 \(R\) 必须同时适用于所有 \(n\)。例如若某个 \(p>0\) 满足 \(\sup_nE\|X_n\|^p\le M<\infty\)，则 Markov 不等式给出 \(\sup_nP(\|X_n\|>R)\le M/R^p\)，所以分布序列紧。
在 \(\mathbb R^d\) 中，紧序列的每一条子列都含有弱收敛到某个概率测度的子列。另一方面，弱收敛序列必为紧序列。紧性本身不指定子列极限，也不保证原序列收敛。
弱收敛推出紧性。若 \(\mu_n\Rightarrow\mu\)，给定 \(\varepsilon>0\)，选开球 \(B_R\) 使 \(\mu(B_R)>1-\varepsilon/2\)。由开集不等式，充分大的 \(n\) 都有 \(\mu_n(B_R)>1-\varepsilon\)。每个剩余的有限项也能用足够大的球包含至少 \(1-\varepsilon\) 的质量；取这些半径的最大值即可同时控制全部 \(n\)。
紧性推出子列存在的证明思路。枚举 \(\mathbb Q^d\)，对有界数列 \(F_n(q)\) 逐次抽取，再对角化，得到 \(F_{n_k}(q)\to H(q)\) 对全部有理向量成立。令
作右连续修正。矩形差分的非负性从 \(F_n\) 传到 \(F\)；紧性保证各坐标的尾部条件和总质量为 \(1\)，使 \(F\) 对应概率测度。最后以有理矩形夹逼，得到 \(F_{n_k}\to F\) 在连续点成立。本段不展开矩形测度的扩张与边界逼近细节，完整构造见 Durrett 定理 3.10.3 及其所引的测度扩张结果。任意子列仍然紧，故也能使用同一抽取过程。
左图的全部质量位于 \([-1,1]\)，但对有界连续函数 \(f(x)=x/(1+|x|)\)，积分在 \(-1/2\) 和 \(1/2\) 间交替，故整列不收敛。右图对任意 \(R\) 都有 \(\sup_n\mu_n([-R,R]^c)=1\)，直接违反紧性定义。
若已经证明紧性，再证明所有可能的子列极限都等于同一个 \(\mu\)，才可推出 \(\mu_n\Rightarrow\mu\)。理由是：若某个 \(f\in C_b\) 的积分不收敛，可抽取始终与目标积分相差至少 \(\eta>0\) 的子列；紧性让它再含弱收敛子列，极限按唯一性只能是 \(\mu\)，遂与这个差距矛盾。
10.3.4 连续映射只需在极限可能出现的点连续
设 \(X_n\Rightarrow X\) 在 \(\mathbb R^d\) 中成立，\(g:\mathbb R^d\to\mathbb R^m\) 为 Borel 可测映射。令 \(D_g\) 为不连续点集合。若 \(P(X\in D_g)=0\)，则
证明。对 \(\mathbb R^m\) 中任意闭集 \(C\)，连续性给出 \(\overline{g^{-1}(C)}\subseteq g^{-1}(C)\cup D_g\)：若 \(x\) 是原像的聚点且 \(g\) 在 \(x\) 连续，取原像中的序列趋于 \(x\)，闭性就保证 \(g(x)\in C\)。因此由 Portmanteau，
这正是像分布的闭集判据。证毕。条件考察的是极限分布在不连续点上的质量；不要求 \(g\) 在整个空间处处连续。
10.3.5 Slutsky 与随机标准化
设 \(X_n\in\mathbb R^d\)、\(Y_n\in\mathbb R^k\) 是同一概率空间上的随机向量序列。若 \(X_n\Rightarrow X\)，而 \(Y_n\xrightarrow{P}c\)，其中 \(c\) 是确定常向量，则
不要求 \(X_n,Y_n\) 独立。在实值情形，连续映射给出和、积的极限 \(X_n+Y_n\Rightarrow X+c\)、\(X_nY_n\Rightarrow cX\)；商还要求 \(c\ne0\)。若 \(Y_n=0\)，可把该事件上的商定义为零，其概率趋于零。
证明。取 \(f\in C_b(\mathbb R^{d+k})\)，记 \(M=\|f\|_\infty\)。由 \(X_n\) 的紧性，给定 \(\eta>0\)，选 \(R\) 使 \(\sup_nP(\|X_n\|>R)<\eta\)。函数 \(f\) 在 \(\overline B_R\times\overline B(c,1)\) 上一致连续，故给定 \(\varepsilon>0\)，可取 \(0<\delta<1\)，使区域内 \(\|y-c\|\le\delta\) 时 \(|f(x,y)-f(x,c)|\le\varepsilon\)。于是
先令 \(n\to\infty\)，再令 \(\varepsilon,\eta\downarrow0\)，该差趋于零；同时 \(x\mapsto f(x,c)\) 属于 \(C_b\)，故 \(Ef(X_n,c)\to Ef(X,c)\)。联合弱收敛得证。
设 \(V_i\) 独立同分布，\(EV_i=\mu\)，\(0<\sigma^2=\operatorname{Var}(V_i)<\infty\)。记 \(\overline V_n=n^{-1}\sum_iV_i\)、\(S_n^2=n^{-1}\sum_i(V_i-\overline V_n)^2\)。使用 10.5 节的大数定律与 10.6 节的中心极限定理：
第一步只需 \(EV_i^2<\infty\)，不需要四阶矩。开方连续，故 \(S_n\xrightarrow{P}\sigma>0\)。在 \(S_n=0\) 时把统计量定义为零，Slutsky 便给出 \(\sqrt n(\overline V_n-\mu)/S_n\Rightarrow N(0,1)\)。分子与分母通常依赖，但分母的常数极限足以支持这一替换；本例调用的大数定律与中心极限定理将在对应章节证明。
10.3.6 多元 delta 方法：把可微余项控制到概率极限
设确定向量 \(\theta\in\mathbb R^d\)、确定正数 \(a_n\to\infty\)，且 \(a_n(T_n-\theta)\Rightarrow Z\)。设 Borel 映射 \(g:\mathbb R^d\to\mathbb R^m\) 在 \(\theta\) 处可微，导数矩阵为 \(J=Dg(\theta)\)。这里“可微”指存在余项 \(r(h)\)，满足
则
只要求在 \(\theta\) 处可微；各偏导数在该点存在本身不足以替代此条件。
证明。记 \(Z_n=a_n(T_n-\theta)\)。弱收敛使 \(Z_n\) 紧；因 \(a_n\to\infty\)，有 \(T_n-\theta\xrightarrow{P}0\)。定义 \(\rho(h)=\|r(h)\|/\|h\|\)，并置 \(\rho(0)=0\)，于是 \(\rho(T_n-\theta)\xrightarrow{P}0\)。缩放后的余项满足 \(\|a_nr(T_n-\theta)\|\le\|Z_n\|\rho(T_n-\theta)\)。对任意 \(L,\varepsilon>0\)，
先用紧性选大 \(L\)，再令 \(n\to\infty\)，便知余项依概率趋于零。线性映射连续，故 \(JZ_n\Rightarrow JZ\)；最后对 \(JZ_n+a_nr(T_n-\theta)\) 使用 Slutsky。证毕。
若 \(Z\sim N_d(0,\Sigma)\)，则极限为 \(N_m(0,J\Sigma J^{\mathsf T})\)，允许协方差矩阵奇异。当 \(J=0\) 时，一阶结论仍然成立，但极限退化为零，不能由此宣称存在非退化的正态极限。
设二维统计量满足 \(\sqrt n((\widehat a_n,\widehat b_n)-(a,b))\Rightarrow N_2(0,\Sigma)\)，其中 \(b\ne0\)，且
例如，有限二阶矩的独立同分布配对数据，其两个样本均值满足这一联合中心极限定理。令分母为零时的比值为零，则映射仍在 \((a,b)\) 附近可微。矩阵相乘得到
取 \(a=2,b=1,\sigma_A^2=4,\sigma_B^2=1,\sigma_{AB}=1\)，梯度为 \((1,-2)\)，方差为 \(4+4-4=4\)，故 \(\sqrt n(\widehat a_n/\widehat b_n-2)\Rightarrow N(0,4)\)。同一对数据中的两个坐标可以相关；忽略协方差项会把本例方差错算为 \(8\)。
10.3.7 习题与解答
习题 10.3-1 弱收敛、紧性与未收敛的均值
题目。令 \(\mu_n=(1-1/n)\delta_0+(1/n)\delta_n\)。直接用测试函数证明 \(\mu_n\Rightarrow\delta_0\)，验证紧性，并比较均值。
解答。对任意 \(f\in C_b\)，有 \(|\int f\,d\mu_n-f(0)|=|f(n)-f(0)|/n\le2\|f\|_\infty/n\to0\)，故弱收敛。给定 \(\varepsilon>0\)，取整数 \(N>1/\varepsilon\)。在 \(K=[0,N]\) 外，\(n\le N\) 的质量为零，\(n>N\) 时至多为 \(1/n<\varepsilon\)，所以整个序列紧。但 \(\int x\,d\mu_n=1\)，而 \(\int x\,d\delta_0=0\)。测试均值所用的 \(x\mapsto x\) 无界，不能直接使用弱收敛定义。
习题 10.3-2 阈值函数的不连续点
题目。若 \(X_n\Rightarrow U[-1,1]\)，求 \(P(X_n>0)\) 的极限。再构造 \(X_n\Rightarrow0\) 而 \(P(X_n>0)\) 不收敛的例子。
解答。取 \(g(x)=\mathbf1_{\{x>0\}}\)，其唯一不连续点为零，均匀极限分布在该点的概率为零。因此 \(g(X_n)\Rightarrow\operatorname{Bernoulli}(1/2)\)；也可直接用连续集 \((0,\infty)\)，得到 \(P(X_n>0)\to1/2\)。反例取确定性 \(X_n=(-1)^n/n\)，它趋于零，但正值概率在偶数项为 \(1\)、奇数项为 \(0\)。此时极限分布在不连续点上的质量为 \(1\)，连续映射的假设不成立。
习题 10.3-3 Slutsky 中常数条件的作用
题目。令 \(Z\) 以相等概率取 \(\pm1\)，\(X_n=(-1)^nZ\)、\(Y_n=Z\)。验证 \(X_n\Rightarrow Z\)、\(Y_n\xrightarrow{P}Z\)，并证明 \(X_n+Y_n\) 没有弱极限。
解答。对称性使每个 \(X_n\) 都与 \(Z\) 同分布，第二个序列则恒等于 \(Z\)。但和在奇数项恒为零，偶数项等于 \(2Z\)。取有界连续函数 \(f(t)=t^2/(1+t^2)\)，其期望在奇数项为 \(0\)，偶数项为 \(4/5\)，不收敛，故不存在弱极限。另一个变量只依概率趋于非退化随机变量，不能保证 Slutsky 所需的联合弱极限；本例缺少的正是常数极限条件。
习题 10.3-4 一阶导数为零时改变缩放
题目。设 \(\sqrt n\,T_n\Rightarrow Z\sim N(0,\sigma^2)\)，其中 \(\sigma>0\)。对 \(g(t)=t^2\)，分别求 \(\sqrt n\,T_n^2\) 与 \(nT_n^2\) 的极限分布。
解答。在 \(\theta=0\) 处有 \(g'(0)=0\)，一阶 delta 方法给出 \(\sqrt n\,T_n^2\Rightarrow0\)，由常数极限结论也有依概率收敛到零。另一方面，平方函数连续，
因此非退化极限出现在 \(n\) 的缩放下，且为缩放后的卡方分布。退化的一阶结果没有提供这一二阶尺度上的分布，必须重新分析变换。
关键术语
- 弱收敛：所有有界连续测试函数的积分收敛。
- Portmanteau 定理：连接测试函数、开闭集与连续集的概率极限。
- 连续集：边界在极限测度下具有零质量的 Borel 集。
- 紧性：用同一个紧集同时控制整个分布序列的尾部质量。
- Prokhorov 子列结论：有限维空间中，紧性保证可抽出弱收敛子列。
- 连续映射定理：映射在极限分布几乎必然出现的点连续即可。
- Slutsky 定理：一个分布极限与一个依概率常数极限可组成联合极限。
- delta 方法：在可微点用导数传递缩放后的分布极限，并控制余项。
参考文献
- Durrett, R. (2019). Probability: Theory and Examples, 5th ed., §3.2、定理 3.10.1–3.10.3：Portmanteau、多元 CDF 判据与紧性抽取。作者提供的教材版本。
- Polyanskiy, Y. (2018). MIT 6.436J, Lecture 16, Convergence of Random Variables。MIT OpenCourseWare 讲义页。
- MIT (2018). 14.381, Lecture 2, Limit Theorems, §§4–5：Slutsky 与 delta 方法。MIT 官方讲义。
- Balakrishnan, S. (2019). CMU 36-705, Lecture 8, §8.1：多元 delta 方法及梯度协方差计算。作者课程讲义。