第 9 章 · 概率空间与测度积分

9.3 勒贝格积分与积分收敛定理

Lebesgue Integration and Convergence
本节从可测简单函数构造勒贝格积分,区分非负积分、一般积分与可积性,完整证明单调收敛定理、Fatou 引理和控制收敛定理。通过阶梯逼近、振荡积分和移动尖峰,判断极限何时可以与期望交换;最后推导尾积分公式,并用重尾分布计算矩存在的条件。

在 9.2 节中,可测性保证了事件和分布有意义;本节进一步定义一般随机变量的期望。以下固定测度空间 \((\Omega,\mathcal F,\mu)\),不要求 \(\mu\) 有限,也不要求它是 \(\sigma\) 有限测度。取 \(\mu=P\) 时,积分 \(\int X\,dP\) 就是期望 \(EX\)。一般测度下使用“几乎处处”,概率测度下也称“几乎必然”。

9.3.1 从简单函数构造积分

定义 9.3.1 简单函数与非负积分

非负简单函数(nonnegative simple function)是只取有限多个非负实数值的可测函数。把各个取值对应的集合分开,可写成 \(s=\sum_{j=1}^m a_j\mathbf1_{A_j}\),其中 \(a_j\ge0\),集合 \(A_j\in\mathcal F\) 两两不交。定义

\[\int s\,d\mu=\sum_{j=1}^m a_j\mu(A_j),\qquad 0\cdot\infty:=0.\]
(9.3-1)

对任意非负可测函数 \(f:\Omega\to[0,\infty]\),勒贝格积分(Lebesgue integral)定义为

\[\int f\,d\mu=\sup\left\{\int s\,d\mu:\ s\text{ 为非负简单函数},\ 0\le s\le f\right\}.\]
(9.3-2)

定义允许积分为 \(+\infty\)。同一个简单函数可以有不同表示;把两种表示的集合取交集,得到共同的有限划分,再用测度的有限可加性,便得到相同的积分。这个做法也证明简单函数积分的可加性和单调性。由上确界定义,\(0\le f\le g\) 立即推出 \(\int f\,d\mu\le\int g\,d\mu\)。

非负可测函数总能从下方用简单函数逼近。例如令

\[s_n=2^{-n}\left\lfloor2^n(f\wedge n)\right\rfloor,\qquad n\ge1.\]
(9.3-3)

截断使每个 \(s_n\) 只有有限多个取值,取整使这些值落在二进网格上。网格逐次加密且截断高度上升,所以 \(s_n\le s_{n+1}\)。当 \(f(\omega)\) 有限时,最终截断不再起作用,误差小于 \(2^{-n}\);当 \(f(\omega)=\infty\) 时,\(s_n(\omega)=n\)。因此 \(s_n\uparrow f\)。积分也随之收敛,需要下一条定理。

线性函数的二进阶梯逼近 在零到一区间,函数值等于横坐标。二等分下阶梯的面积为四分之一,四等分下阶梯的面积为八分之三,逐步接近三角形面积二分之一。 二等分:阶梯面积 1/4 四等分:阶梯面积 3/8 01/21 1/21x 01/21 1/41/23/41x 棕线:原函数  蓝色阶梯:从下方逼近
图 9.3-1 对 \(f(x)=x\)、\(0\le x\le1\),分别画出 \(2^{-1}\lfloor2x\rfloor\) 与 \(2^{-2}\lfloor4x\rfloor\)。阶梯高度和区间宽度按公式绘制;端点的单点取值不影响勒贝格积分。

9.3.2 单调收敛:由下方逼近到积分极限

定理 9.3.1 单调收敛定理(monotone convergence theorem,MCT)

若 \(f_n,f\) 非负可测,且 \(f_n\uparrow f\) 几乎处处,则

\[\lim_{n\to\infty}\int f_n\,d\mu=\int f\,d\mu\in[0,\infty].\]
(9.3-4)

不要求各项或极限函数可积;两边同时为 \(+\infty\) 也属于结论。

证明。先假设处处单调收敛。由积分单调性,\(L:=\lim_n\int f_n\,d\mu\) 存在且 \(L\le\int f\,d\mu\)。为证反向不等式,任取非负简单函数 \(s=\sum_j a_j\mathbf1_{A_j}\le f\) 和常数 \(0<c<1\),令 \(B_n=\{f_n\ge cs\}\)。集合 \(B_n\) 递增;在 \(s=0\) 处它包含所有点,在 \(s>0\) 处,由 \(f_n\uparrow f\ge s>cs\),每一点最终都属于 \(B_n\)。故 \(B_n\uparrow\Omega\)。于是

\[\int f_n\,d\mu\ge c\int s\mathbf1_{B_n}\,d\mu=c\sum_j a_j\mu(A_j\cap B_n)\ \longrightarrow\ c\int s\,d\mu.\]
(9.3-5)

这里用的是测度对递增集合的下连续性,有限项中也允许出现无穷。得到 \(L\ge c\int s\,d\mu\) 后,先令 \(c\uparrow1\),再对所有 \(s\le f\) 取上确界,就有 \(L\ge\int f\,d\mu\)。若假设仅几乎处处成立,在共同的可测零测集上把所有函数改为零即可;零测集上的改变不影响积分。证毕。

MCT 还把简单函数的运算性质推广到一般非负函数。取简单函数 \(s_n\uparrow u\)、\(t_n\uparrow v\),对 \(s_n+t_n\uparrow u+v\) 使用 MCT,得到 \(\int(u+v)\,d\mu=\int u\,d\mu+\int v\,d\mu\)。同理可证明非负常数的齐次性。此处只有非负数相加,不涉及 \(\infty-\infty\)。

例 9.3.1 由阶梯函数算出均匀分布的期望

设 \(U\sim U(0,1)\),令 \(s_n(U)=2^{-n}\lfloor2^nU\rfloor\)。它在长度为 \(2^{-n}\) 的各段分别取值 \(k2^{-n}\),\(k=0,\ldots,2^n-1\)。因此

\[E s_n(U)=2^{-2n}\sum_{k=0}^{2^n-1}k=\frac12-\frac1{2^{n+1}}\ \uparrow\ \frac12.\]
(9.3-6)

由于 \(s_n(U)\uparrow U\),MCT 给出 \(EU=1/2\)。图 9.3-1 对应前两项:\(1/4\) 和 \(3/8\)。计算从有限求和出发,并由定理保证极限等于积分。

9.3.3 正负部、可积性与 Fatou 引理

定义 9.3.2 一般积分与可积性

对实值可测函数 \(f\),定义正部 \(f^+=\max(f,0)\) 和负部 \(f^-=\max(-f,0)\)。它们满足 \(f=f^+-f^-\)、\(|f|=f^++f^-\)。若两个非负积分至少有一个有限,定义

\[\int f\,d\mu=\int f^+\,d\mu-\int f^-\,d\mu.\]
(9.3-7)

这个积分可以是 \(+\infty\) 或 \(-\infty\);若正负部积分都为无穷,积分未定义。称 \(f\) 可积(integrable),当且仅当

\[\int |f|\,d\mu=\int f^+\,d\mu+\int f^-\,d\mu<\infty.\]
(9.3-8)

可积函数才具有有限的勒贝格积分。对可积的 \(f,g\),有 \(|f+g|\le|f|+|g|\),故其和可积。把恒等式 \((f+g)^++f^-+g^-=(f+g)^-+f^++g^+\) 两边积分,利用非负可加性并移项,就得到一般的可加性。齐次性同理,因此有限线性组合可以逐项积分,并有 \(\left|\int f\,d\mu\right|\le\int|f|\,d\mu\)。正负无穷的“抵消”不属于这些运算。

定理 9.3.2 Fatou 引理(Fatou's lemma)

若 \(f_n\ge0\) 可测,则

\[\int\liminf_{n\to\infty}f_n\,d\mu\le\liminf_{n\to\infty}\int f_n\,d\mu.\]
(9.3-9)

证明。令 \(h_n=\inf_{k\ge n}f_k\)。可数个可测函数的下确界仍可测,且 \(0\le h_n\uparrow\liminf_k f_k\)。对每个 \(k\ge n\),有 \(h_n\le f_k\),所以 \(\int h_n\,d\mu\le\inf_{k\ge n}\int f_k\,d\mu\)。左边用 MCT 取极限,右边按下极限定义取极限,便得到结论。证毕。

Fatou 引理只需非负性,不需单调性,但一般只能给出不等式。若函数可取负值,却有共同的可积下界 \(h\le f_n\),可以对 \(f_n-h\) 使用它,再加回 \(\int h\,d\mu\)。没有这样的下界时,原不等式可能失败,见习题 9.3-3。

9.3.4 控制收敛:用可积函数控制误差

定理 9.3.3 控制收敛定理(dominated convergence theorem,DCT)

设 \(f_n,f\) 是实值可测函数,且 \(f_n\to f\) 几乎处处。若存在同一个非负可积函数 \(g\),使所有 \(n\) 都满足 \(|f_n|\le g\) 几乎处处,则 \(f\) 可积,且

\[\int|f_n-f|\,d\mu\longrightarrow0,\qquad \int f_n\,d\mu\longrightarrow\int f\,d\mu.\]
(9.3-10)

证明。去掉可数个例外零测集的并后,所有界与收敛同时成立。取极限得 \(|f|\le g\),所以 \(f\) 可积,且 \(|f_n-f|\le2g\)。对非负函数 \(2g-|f_n-f|\) 使用 Fatou 引理:

\[\begin{aligned}2\int g\,d\mu&\le\liminf_n\left(2\int g\,d\mu-\int|f_n-f|\,d\mu\right)\\&=2\int g\,d\mu-\limsup_n\int|f_n-f|\,d\mu.\end{aligned}\]
(9.3-11)

由于 \(\int g\,d\mu\) 有限,移项合法。非负数列 \(\int|f_n-f|\,d\mu\) 的上极限至多为零,故它趋于零。再用 \(\left|\int f_n\,d\mu-\int f\,d\mu\right|\le\int|f_n-f|\,d\mu\) 得到积分收敛。证毕。

当 \(\mu(\Omega)<\infty\) 时,常数函数 \(g=C\) 可积,DCT 因而包含有界收敛定理:若 \(f_n\to f\) 几乎处处且所有 \(n\) 都满足 \(|f_n|\le C\),则积分收敛。这里的 \(C\) 必须与 \(n\) 无关;在无限测度空间上,常数界未必可积。

例 9.3.2 带振荡项的积分极限

求 \(I_n=\int_0^\infty e^{-x}\cos(x/n)\,dx\) 的极限。对每个 \(x\),被积函数趋于 \(e^{-x}\),而绝对值不超过共同上界 \(e^{-x}\),其积分为 \(1\)。DCT 立即给出 \(I_n\to1\)。

也可直接检验这个答案。记 \(a=1/n\)、\(J_n=\int_0^\infty e^{-x}\sin(ax)\,dx\)。两个积分都绝对收敛,分部积分得到 \(I_n=1-aJ_n\) 和 \(J_n=aI_n\),于是

\[I_n=\frac{1}{1+a^2}=\frac{n^2}{n^2+1}\longrightarrow1.\]
(9.3-12)

被积函数可取负值,且不构成逐点单调序列;支配条件允许处理这种振荡。

9.3.5 反例:点态极限不能单独决定积分

反例 9.3.1 区间收缩、函数高度增加

在概率空间 \((0,1)\) 上取勒贝格测度,令

\[f_n(x)=n\mathbf1_{(0,1/n)}(x),\qquad f_n(x)\longrightarrow0,\qquad \int_0^1 f_n(x)\,dx=1.\]
(9.3-13)

每个固定 \(x>0\) 最终都落在区间外,所以收敛处处成立;然而高度与宽度的乘积始终为 \(1\)。这既说明 Fatou 的 \(0\le1\) 可以严格,也说明几乎必然收敛和 \(\sup_nE|f_n|=1\) 合在一起仍不保证期望收敛。若存在共同可积上界,DCT 会给出积分趋于零,因此这种上界不存在。9.5 节将用一致可积性进一步说明这一缺口。

收缩尖峰的面积与极限函数的积分 左图按坐标画出高度为二、四、八,宽度分别为二分之一、四分之一、八分之一的矩形,每个面积均为一。右图各项积分恒为一,极限函数的积分为零。 尖峰:宽度缩小,高度增加 积分没有趋于零 n = 2n = 4n = 8 8420 1/41/21x 10248n 每一项的积分都为 1极限函数的积分为 0 三个矩形的面积相同先取极限与先积分得到不同结果
图 9.3-2 左图按精确宽、高画出 \(f_2,f_4,f_8\),均有积分 \(1\)。每个固定 \(x>0\) 处的函数值最终为零;右图区分各项积分与极限函数的积分。

另一个失败发生在无限测度空间:在 \(\mathbb R\) 上令 \(q_n=\mathbf1_{[n,n+1]}\)。它处处趋于零,满足统一常数界 \(|q_n|\le1\),但 \(\int_{\mathbb R}q_n\,dx=1\)。常数 \(1\) 在 \(\mathbb R\) 上不可积,因此这里不满足 DCT,也不符合有限测度空间上的有界收敛定理。

表 9.3-1 三条积分收敛结果的假设与结论
结果需要逐项检查的条件积分结论
MCT非负;几乎处处递增到极限等式成立,允许无穷
Fatou非负;无需点态极限存在下极限的积分不超过积分的下极限
DCT几乎处处收敛;同一个可积函数控制绝对值绝对误差积分趋于零,积分均有限

9.3.6 尾积分公式:从概率计算期望

命题 9.3.4 非负随机变量的尾积分公式

对任意非负随机变量 \(X\),包括可能取 \(+\infty\) 的情形,

\[EX=\int_0^\infty P(X>t)\,dt.\]
(9.3-14)

两边都允许为无穷。右边关于 \(t\) 使用勒贝格测度。

证明。先令 \(s=\sum_j a_j\mathbf1_{A_j}\) 为非负简单随机变量,集合两两不交。由有限求和,

\[\int_0^\infty P(s>t)\,dt=\sum_jP(A_j)\int_0^\infty\mathbf1_{\{t<a_j\}}\,dt=\sum_j a_jP(A_j)=Es.\]
(9.3-15)

再取简单函数 \(s_n\uparrow X\)。对每个 \(t\ge0\),事件 \(\{s_n>t\}\) 递增到 \(\{X>t\}\),所以其概率递增到 \(P(X>t)\)。这些尾概率是 \(t\) 的单调函数,因而可测。分别在概率空间和 \(t\) 的半轴上应用 MCT,得到公式。证毕。这个证明只用了本节结果;9.4 节将给出用 Tonelli 定理换序的写法。

例 9.3.3 Pareto 尾部与均值是否有限

设 \(X\ge1\),参数 \(\alpha>0\),且 \(P(X>t)=t^{-\alpha}\) 对 \(t\ge1\) 成立。在 \(0\le t<1\) 上尾概率等于 \(1\)。尾积分公式给出

\[EX=1+\int_1^\infty t^{-\alpha}\,dt=\begin{cases}\dfrac{\alpha}{\alpha-1},&\alpha>1,\\+\infty,&0<\alpha\le1.\end{cases}\]
(9.3-16)

当 \(\alpha>1\) 时,原函数 \(t^{1-\alpha}/(1-\alpha)\) 在无穷远处趋于零;当 \(\alpha=1\) 时对数发散,较小的 \(\alpha\) 也发散。例如 \(\alpha=3/2\) 时 \(EX=3\),但有限均值不保证二阶矩有限,习题 9.3-4 将给出完整的矩条件。

9.3.7 习题与解答

习题 9.3-1 非负随机级数与独立性

题目。设 \(X_k\ge0\) 为任意随机变量,证明 \(E\sum_{k=1}^\infty X_k=\sum_{k=1}^\infty EX_k\)。再令 \(U\sim U(0,1)\)、\(X_k=\mathbf1_{\{U\le2^{-k}\}}\),计算随机级数的期望,并说明是否使用独立性。

解答。部分和 \(S_n=\sum_{k=1}^nX_k\) 非负且递增到可测的扩展实值随机变量 \(S\)。由 MCT 和有限可加性,

\[ES=\lim_n ES_n=\lim_n\sum_{k=1}^nEX_k=\sum_{k=1}^\infty EX_k.\]
(9.3-17)

等式允许两边为无穷。题中的事件相互嵌套,\(EX_k=P(U\le2^{-k})=2^{-k}\),故 \(ES=\sum_{k\ge1}2^{-k}=1\)。这里没有使用独立性,且 \(X_1,X_2\) 确实不独立:同时为 \(1\) 的概率是 \(1/4\),两个边缘概率之积是 \(1/8\)。

习题 9.3-2 带符号的极限与共同上界

题目。设 \(E|X|<\infty\)。证明 \(E[n\sin(X/n)]\to EX\)。指出支配函数,并说明为什么只知道每个 \(n\sin(X/n)\) 有界还不够。

解答。对每个有限 \(x\),有 \(n\sin(x/n)\to x\)。由 \(|\sin u|\le|u|\),得 \(|n\sin(X/n)|\le|X|\),右边与 \(n\) 无关且可积。DCT 给出期望收敛,甚至有 \(E|n\sin(X/n)-X|\to0\)。单独的界 \(|n\sin(X/n)|\le n\) 随 \(n\) 增长,不提供共同可积上界;它只保证每一项的期望有限,不能据此交换极限与期望。

习题 9.3-3 去掉 Fatou 非负假设会怎样

题目。在 \((0,1)\) 的勒贝格测度下,考察 \(h_n(x)=-n\mathbf1_{(0,1/n)}(x)\)。计算 \(\int\liminf h_n\) 与 \(\liminf\int h_n\),判断是否有共同的可积下界。再说明 \(\sup_n\int|h_n|<\infty\) 能否补救。

解答。每个固定 \(x>0\) 最终不在区间内,故 \(h_n(x)\to0\),左边积分为 \(0\)。各项积分为 \(-1\),右边下极限为 \(-1\),所以 \(0\le-1\) 不成立。若有可积函数 \(h\le h_n\),对非负函数 \(h_n-h\) 使用 Fatou 就会得到 \(-\int h\le-1-\int h\),仍推出矛盾 \(0\le-1\)。因此共同可积下界不存在。尽管每个 \(\int|h_n|=1\),积分依然不收敛到零,说明绝对积分一致有界不能替代支配条件。

习题 9.3-4 尾积分与 Pareto 的全部正阶矩

题目。对 \(X\ge0\)、\(r>0\),证明 \(EX^r=\int_0^\infty r t^{r-1}P(X>t)\,dt\),并求例 9.3.3 中 Pareto 随机变量的 \(r\) 阶矩。

解答。对非负随机变量 \(X^r\) 使用尾积分公式,再作变量代换 \(u=t^r\),得到

\[EX^r=\int_0^\infty P(X^r>u)\,du=\int_0^\infty r t^{r-1}P(X>t)\,dt.\]
(9.3-18)

可先在避开零点的有限区间上换元,再用 MCT 扩大区间,故不必预先假设矩有限。对 Pareto 分布,零到一的积分是 \(1\),其余部分为 \(r\int_1^\infty t^{r-\alpha-1}\,dt\)。因此

\[EX^r=\begin{cases}\dfrac{\alpha}{\alpha-r},&0<r<\alpha,\\+\infty,&r\ge\alpha.\end{cases}\]
(9.3-19)

临界点 \(r=\alpha\) 对应对数发散。因此 \(\alpha=3/2\) 时均值为 \(3\),二阶矩无穷;平方可积性比可积性要求更强。

关键术语

  • 简单函数:只取有限多个实数值的可测函数。
  • 勒贝格积分:非负函数积分由简单函数积分的上确界定义。
  • 可积性:绝对值的积分有限,排除正负无穷相减。
  • 几乎处处:允许在一个可测零测集上例外。
  • 单调收敛定理:非负递增逼近保持积分极限。
  • Fatou 引理:非负函数下极限的积分满足单向不等式。
  • 控制收敛定理:共同可积上界保证绝对误差的积分趋于零。
  • 尾积分公式:由超过各个阈值的概率计算非负随机变量的期望。

参考文献

  1. Durrett, R. (2019). Probability: Theory and Examples, 5th ed., §§1.4–1.6:积分的构造、积分性质与期望。作者提供的教材版本。
  2. Polyanskiy, Y. (2018). MIT 6.436J, Lecture 7, Abstract Integration I:简单函数、非负积分与单调收敛。MIT OpenCourseWare 讲义页。
  3. Polyanskiy, Y. (2018). MIT 6.436J, Lecture 8, Abstract Integration II:Fatou 引理、控制收敛与期望运算。MIT OpenCourseWare 讲义页。