第 7 章 · 期望的性质

7.8 期望的一般定义

The General Definition of Expectation
学习目标
  • 用正部 \(X^+\) 与负部 \(X^-\) 的分解写出任意随机变量期望的一般定义,并区分"期望有限""期望为无穷""期望不存在"三种情形;
  • 叙述并证明判据 \(E[X]\) 存在且有限 \(\iff E|X|<\infty\);
  • 说明交换期望与无穷级数(或积分)次序所需的条件——截断与单调收敛定理(只要求会陈述);
  • 判断柯西分布、幂律分布等重尾分布期望的存在性,找出使期望有限的"临界幂次";
  • 了解黎曼–斯蒂尔杰斯积分 \(\int x\,dF(x)\) 如何把离散求和与连续积分统一为一个公式。

1. 正部与负部:期望的一般定义

到目前为止,我们手里有两个"期望":离散型的 \(E[X]=\sum_x x\,p(x)\)(4.3 节)与连续型的 \(E[X]=\int_{-\infty}^{\infty} x f(x)\,dx\)(5.2 节)。两个公式形似"求和"与"积分",却各自为政,而且都暗含一个前提——级数或积分绝对收敛;此外,既带点质量又带连续部分的混合型(mixed)随机变量,两个公式都套不上。本节给出对任意随机变量都适用的一般定义,并顺带回答两个悬而未决的问题:期望究竟何时"存在"?本章里屡屡交换求和次序的运算,何时才是合法的?

定义 1 正部、负部与期望的一般定义

对任意随机变量 \(X\),令 \[ X^+ = \max(X,\,0), \qquad X^- = \max(-X,\,0), \] 分别称为 \(X\) 的正部(positive part)与负部(negative part)。于是 \[ X = X^+ - X^-, \qquad |X| = X^+ + X^-, \qquad X^+,\,X^- \ge 0. \] 由于非负随机变量的期望总能定义(离散型求非负级数、连续型求非负积分,允许取值 \(+\infty\)),定义 \[ E[X] \;=\; E[X^+] \;-\; E[X^-], \] 只要右端两项中至少一项有限;当 \(E[X^+]=E[X^-]=+\infty\) 时,称 \(X\) 的期望不存在

直观地说:把 \(X\) 的"收益"与"亏损"分开记账,各自求平均,再相减;亏损那一栏按绝对值记为正数,这正是 \(X^-\) 的含义。图 1 把这一记账方式画在密度图上。

X 的密度 f(x):负侧薄、正侧厚 0.2 0.4 −4 −2 0 2 4 6 x ≥ 0 段 x < 0 段 分解:负半轴翻折到正半轴 0.2 0.4 0 1 2 3 4 5 f(u):正侧 f(−u):负侧翻折 E[X] = E[X+] − E[X−](红面积 − 蓝面积) u 轴上红色高于蓝色 ⇒ E[X+] > E[X−]
图 1:正部与负部的分解(不对称拉普拉斯密度,左尺右尺同比例)。把密度的负半轴(蓝)关于纵轴翻折到正半轴,得到 \(f(-u)\):红曲线下的面积衡量 \(E[X^+]=\int_0^\infty u f(u)\,du\),蓝曲线下的面积衡量 \(E[X^-]=\int_0^\infty u f(-u)\,du\);两者都有限时,其差就是 \(E[X]\)。

按定义 1,任意随机变量的期望问题都归结为两个非负量的比较,共三种情形,汇总如下表。

表 1:期望存在性的三种情形
\(E[X^+]\)\(E[X^-]\)结论典型例子
有限有限\(E[X]\) 存在且有限 \(\iff E|X|<\infty\)正态、泊松、本节例 3
\(+\infty\)有限\(E[X]=+\infty\)(广义存在,非有限)例 2 的幂律
\(+\infty\)\(+\infty\)期望不存在(\(\infty-\infty\) 无意义)柯西分布(例 1)
定理 1 期望存在的判据

\[ E[X]\ \text{存在且有限} \quad\iff\quad E|X| < \infty. \]

证明由 \(|X|=X^++X^-\) 以及非负随机变量期望的可加性,\(E|X|=E[X^+]+E[X^-]\)。若 \(E|X|<\infty\),则 \(E[X^+]\) 与 \(E[X^-]\) 均有限,故 \(E[X]=E[X^+]-E[X^-]\) 是有限数。反之,若 \(E[X]\) 有限,则按定义 1 两项均有限,相加即得 \(E|X|<\infty\)。(非负情形的可加性可由下面的单调收敛定理保证,此处从略。)
性质 1 期望与无穷级数的交换(只陈述)

设 \(X_1,X_2,\ldots\) 为随机变量序列,且 \(\sum_{n=1}^{\infty} E|X_n| < \infty\),则 \[ E\!\left[\sum_{n=1}^{\infty} X_n\right] \;=\; \sum_{n=1}^{\infty} E[X_n]. \] 更一般地,\(E|X|<\infty\) 保证了期望与积分、期望与求和之间的次序交换。

证明思路标准程序是"先截断(truncation)、后取极限":令 \(Y_n^{(M)}=\max(-M,\min(X_n,M))\),对有界项的无穷级数可合法交换求和与期望;再令 \(M\to\infty\),用单调收敛定理(monotone convergence theorem)把极限移入期望。细节超出本教程范围,本节只陈述结论。

这一性质回答了本节开头的第二个问题。7.2 节的线性性 \(E\big[\sum_{i=1}^{n} X_i\big]=\sum_{i=1}^{n} E[X_i]\) 只涉及有限和,无需任何条件;一旦和变成无穷级数或积分,次序交换就必须以上述绝对可积性为担保。这也解释了 4.3 节定义离散期望时为何要求 \(\sum_x |x|\,p(x)<\infty\):它正是"安全使用期望运算"的入场券。

2. 重尾的警示:期望可能不存在

定理 1 把"期望是否存在"化成一个纯粹的分析学问题:尾部(tail)衰减得够不够快?重尾(heavy-tailed)分布常在这里翻车。下面两个例子是所有概率论学习者都应亲眼看过一遍的"临界现场"。

例 1 柯西分布没有期望

设 \(X\) 服从标准柯西(Cauchy)分布(5.6 节),密度 \(f(x)=\dfrac{1}{\pi(1+x^2)}\)。证明 \(E[X]\) 不存在。

密度关于原点对称:\(f(-x)=f(x)\),故 \(X^+\) 与 \(X^-\) 同分布,\(E[X^+]=E[X^-]\)(同为有限或同为 \(+\infty\))。直接计算正部: \[ E[X^+] = \int_0^{\infty} x\cdot\frac{dx}{\pi(1+x^2)} = \frac{1}{2\pi}\lim_{b\to\infty}\ln(1+b^2) = +\infty. \] 于是 \(E[X^+]=E[X^-]=+\infty\),一般定义中出现的"\(\infty-\infty\)"没有意义,故期望不存在。特别注意:不能因为密度对称就写 \(E[X]=0\)——"对称分布的期望为零"仅在期望存在的前提下成立。这与 7.6 节注记"柯西分布的矩母函数在 \(t\neq 0\) 处不存在"是同一枚硬币的两面:尾部太厚,一切"平均"都失灵。
整体形状:峰值相近,差别全在尾部 0.2 0.4 −8 −4 0 4 8 正态 柯西 尾部放大(x ≥ 2):柯西反超正态 0.02 0.05 2 3 4 5 6 7 8 柯西 ~ 1/(πx²) 正态 ~ exp(−x²/2) P(|X| > 4):柯西 ≈ 0.156,正态 ≈ 0.000063 —— 相差约 2500 倍
图 2:柯西密度(红)与标准正态密度(蓝)的对比,纵轴同比例。中心部分两者几乎一样高;但从 \(x\approx 1.8\) 起柯西反超:其密度按 \(1/x^2\) 衰减,使期望积分的被积函数 \(x f(x)\sim 1/(\pi x)\) 像 \(\ln b\) 一样发散(例 1);正态密度按 \(e^{-x^2/2}\) 衰减,一切阶矩都有限。与 5.6 节的讨论互为印证。
例 2 幂律分布列:恰在临界处发散

设 \(P(X=k)=\dfrac{c}{k^2},\; k=1,2,\ldots\),其中 \(c\) 为归一化常数。\(E[X]\) 是否存在?

由 \(\sum_{k=1}^{\infty} 1/k^2=\pi^2/6\) 得 \(c=6/\pi^2\approx 0.6079\)。因 \(X\ge 1>0\),有 \(X^+=X\)、\(X^-=0\),于是 \[ E[X] \;=\; \sum_{k\ge 1} k\cdot\frac{6/\pi^2}{k^2} \;=\; \frac{6}{\pi^2}\sum_{k=1}^{\infty}\frac{1}{k} \;=\; +\infty, \] 因为调和级数发散。负部有限、正部无穷,故 \(E[X]=+\infty\):期望"广义存在"但不是有限数——通常就说期望不存在(为无穷)。这里分母幂次 \(\beta=2\) 恰是临界:对幂律 \(p(k)\propto k^{-\beta}\)(\(\beta>1\) 方可归一化),\(E[X]\) 有限当且仅当 \(\beta>2\)。
例 3 把幂次提高一格:期望立刻有限

设 \(P(Y=k)=\dfrac{c'}{k^3},\; k\ge 1\)。证明 \(E[Y]\) 有限并求其值。

记 \(\zeta(3)=\sum_{k=1}^{\infty} k^{-3}\approx 1.2021\)(阿佩里常数),则 \(c'=1/\zeta(3)\approx 0.8319\)。由于 \(Y\ge 1\),\(E|Y|=E[Y]\),且 \[ E[Y] \;=\; \frac{1}{\zeta(3)}\sum_{k\ge 1}\frac{1}{k^2} \;=\; \frac{\pi^2}{6\,\zeta(3)} \;\approx\; \frac{1.6449}{1.2021} \;\approx\; 1.368. \] 由定理 1,期望存在且有限。与例 2 对照:幂次只差 1,结论就从"无穷"跳到"\(\approx 1.37\)"——重尾分布的期望对尾部幂次极其敏感,这正是保险与金融中"厚尾风险"难以通过平均化来消除的数学根源。
注记 柯西分布的"三连失灵"

柯西分布在 5.6 节作为正态的"照妖镜"登场;7.6 节指出它没有矩母函数;本节看到它连期望都没有;下一章还会看到:大数定律以 \(E|X|<\infty\) 为前提,而柯西总体的样本均值 \(\bar{X}\) 仍服从同一柯西分布——"多次平均"也驯服不了它。一个分布可以在每个点上都有良定义的密度,却在"平均值"这一层整体失灵,这是本节最值得记住的教训。

3. 统一观点:一个积分,两种定义

最后退一步看全局。若把分布函数 \(F(x)=P(X\le x)\) 当作唯一的出发点,可以证明(超出本书范围,仅述结论):无论 \(X\) 离散、连续还是混合,期望都是同一个黎曼–斯蒂尔杰斯积分(Riemann–Stieltjes integral) \[ E[X] \;=\; \int_{-\infty}^{\infty} x \; dF(x) \] 的特例:\(F\) 在 \(x_k\) 处跳起的高度恰是点质量 \(p(x_k)\),积分便"拾起"求和项 \(x_k\,p(x_k)\);\(F\) 平滑上升之处 \(dF(x)=f(x)\,dx\),积分就化为 \(\int x f(x)\,dx\)。离散求和与连续积分,原来是同一个积分在两种 \(F\) 上的投影(图 3)。

E[X] = ∫ x dF(x)(黎曼–斯蒂尔杰斯积分) 0 0.3 0.8 1.0 0 1 2 3 4 F(x) P(X=0):跳跃 0.3 P(X=3):跳跃 0.2 平滑段:dF = f(x)dx 两处跳跃贡献求和项 0×0.3 + 3×0.2,平滑段贡献积分项 ∫ x·(1/6)dx,合计 E[X] = 1.35
图 3:一个混合分布的分布函数 \(F\):\(P(X=0)=0.3\),在 \((0,3)\) 上以权重 \(0.5\) 均匀分布,\(P(X=3)=0.2\)。两处跳跃(红)各贡献一个求和项 \(0\times 0.3+3\times 0.2=0.6\),平滑段(蓝)贡献 \(\int_0^3 x\cdot\frac{1}{6}\,dx=0.75\),合计 \(E[X]=\int x\,dF(x)=1.35\):求和与积分在同一积分号下各司其职。

4. 本节小结

要点回顾
  • 任意 \(X\) 分解为 \(X=X^+-X^-\)(\(X^+=\max(X,0)\),\(X^-=\max(-X,0)\),\(|X|=X^++X^-\));一般定义 \(E[X]=E[X^+]-E[X^-]\),至少一项有限,两项皆 \(+\infty\) 则期望不存在(柯西分布)。
  • 判据:\(E[X]\) 存在且有限 \(\iff E|X|<\infty\);非负随机变量的期望总可定义(可能为 \(+\infty\))。
  • 交换期望与无穷级数(积分)次序的条件:\(\sum_n E|X_n|<\infty\);论证走"截断 + 单调收敛定理"的路线(本节只陈述)。
  • 重尾警示:柯西 \(E[X^\pm]=+\infty\);\(p(k)\propto 1/k^2\) 时期望因调和级数发散,\(\propto 1/k^3\) 时有限——幂次以 2 为临界。
  • 统一观点:离散求和与连续积分同为黎曼–斯蒂尔杰斯积分 \(\int x\,dF(x)\) 的特例。
  • 第 7 章至此收官:线性性、条件期望、矩母函数三大工具,都运行在绝对可积的安全轨道上;第 8 章的极限定理将在这条轨道上展开。

练习

练习 7-8-1

帕累托(Pareto)分布:密度 \(f(x)=\alpha x^{-(\alpha+1)},\; x\ge 1\)(\(\alpha>0\))。\(\alpha\) 取何值时 \(E[X]\) 有限?并求 \(\alpha=2\) 时的期望。

答案与提示

\(E[X]=\alpha\int_1^{\infty} x^{-\alpha}\,dx\),当 \(\alpha>1\) 时收敛于 \(\dfrac{\alpha}{\alpha-1}\);当 \(\alpha\le 1\) 时发散为 \(+\infty\)(\(\alpha=1\) 正是例 2 的连续翻版)。故 \(\alpha=2\) 时 \(E[X]=2\)。

练习 7-8-2

自由度 \(\nu\) 的 \(t\) 分布密度 \(f(x)\propto (1+x^2/\nu)^{-(\nu+1)/2}\),尾部按 \(|x|^{-(\nu+1)}\) 衰减。判断 \(\nu=1,2,4\) 时期望是否存在。

答案与提示

\(E|X|\) 有限要求尾被积函数 \(x\,f(x)\) 可积,即尾部幂次 \(\nu+1>2\iff \nu>1\)。\(\nu=1\) 即柯西分布(例 1),期望不存在;\(\nu=2,4\) 时期望存在,且由密度对称性知 \(E[X]=0\)。\(t\) 分布族是"正态被重尾污染"的典型:自由度越低尾越厚。

练习 7-8-3

概念辨析,判断正误:(a) 密度关于 0 对称的随机变量必有 \(E[X]=0\);(b) \(E[X]\) 存在(允许取 \(\pm\infty\))当且仅当 \(E|X|<\infty\);(c) 非负随机变量的期望总是存在的。

答案与提示

(a) 错——该结论以期望存在为前提,柯西分布即反例;(b) 错——正确表述是"\(E[X]\) 存在且有限 \(\iff E|X|<\infty\)"(定理 1),例 2 中 \(E[X]=+\infty\) 广义存在而 \(E|X|=\infty\);(c) 对——非负时 \(X^-=0\),\(E[X]=E[X^+]\in[0,+\infty]\) 总有定义。

练习 7-8-4

抛一枚均匀硬币:正面则 \(X=0\),反面则 \(X\sim U(0,2)\)。用"点质量 + 密度"两部分求 \(E[X]\),并说明它如何对应 \(\int x\,dF(x)\) 的两个来源。

答案与提示

\(E[X]=\tfrac{1}{2}\times 0+\tfrac{1}{2}\times E[U(0,2)]=\tfrac{1}{2}\times 1=\tfrac{1}{2}\)。分布函数在 \(x=0\) 处跳跃 \(\tfrac{1}{2}\)(贡献求和项 \(0\times\tfrac{1}{2}=0\)),在 \((0,2)\) 上以密度 \(f(x)=\tfrac{1}{4}\) 平滑上升(贡献积分项 \(\int_0^2 x\cdot\tfrac{1}{4}\,dx=\tfrac{1}{2}\)),合计 \(\tfrac{1}{2}\)——与图 3 的结构完全一致。