- 用正部 \(X^+\) 与负部 \(X^-\) 的分解写出任意随机变量期望的一般定义,并区分"期望有限""期望为无穷""期望不存在"三种情形;
- 叙述并证明判据 \(E[X]\) 存在且有限 \(\iff E|X|<\infty\);
- 说明交换期望与无穷级数(或积分)次序所需的条件——截断与单调收敛定理(只要求会陈述);
- 判断柯西分布、幂律分布等重尾分布期望的存在性,找出使期望有限的"临界幂次";
- 了解黎曼–斯蒂尔杰斯积分 \(\int x\,dF(x)\) 如何把离散求和与连续积分统一为一个公式。
1. 正部与负部:期望的一般定义
到目前为止,我们手里有两个"期望":离散型的 \(E[X]=\sum_x x\,p(x)\)(4.3 节)与连续型的 \(E[X]=\int_{-\infty}^{\infty} x f(x)\,dx\)(5.2 节)。两个公式形似"求和"与"积分",却各自为政,而且都暗含一个前提——级数或积分绝对收敛;此外,既带点质量又带连续部分的混合型(mixed)随机变量,两个公式都套不上。本节给出对任意随机变量都适用的一般定义,并顺带回答两个悬而未决的问题:期望究竟何时"存在"?本章里屡屡交换求和次序的运算,何时才是合法的?
对任意随机变量 \(X\),令 \[ X^+ = \max(X,\,0), \qquad X^- = \max(-X,\,0), \] 分别称为 \(X\) 的正部(positive part)与负部(negative part)。于是 \[ X = X^+ - X^-, \qquad |X| = X^+ + X^-, \qquad X^+,\,X^- \ge 0. \] 由于非负随机变量的期望总能定义(离散型求非负级数、连续型求非负积分,允许取值 \(+\infty\)),定义 \[ E[X] \;=\; E[X^+] \;-\; E[X^-], \] 只要右端两项中至少一项有限;当 \(E[X^+]=E[X^-]=+\infty\) 时,称 \(X\) 的期望不存在。
直观地说:把 \(X\) 的"收益"与"亏损"分开记账,各自求平均,再相减;亏损那一栏按绝对值记为正数,这正是 \(X^-\) 的含义。图 1 把这一记账方式画在密度图上。
按定义 1,任意随机变量的期望问题都归结为两个非负量的比较,共三种情形,汇总如下表。
| \(E[X^+]\) | \(E[X^-]\) | 结论 | 典型例子 |
|---|---|---|---|
| 有限 | 有限 | \(E[X]\) 存在且有限 \(\iff E|X|<\infty\) | 正态、泊松、本节例 3 |
| \(+\infty\) | 有限 | \(E[X]=+\infty\)(广义存在,非有限) | 例 2 的幂律 |
| \(+\infty\) | \(+\infty\) | 期望不存在(\(\infty-\infty\) 无意义) | 柯西分布(例 1) |
\[ E[X]\ \text{存在且有限} \quad\iff\quad E|X| < \infty. \]
设 \(X_1,X_2,\ldots\) 为随机变量序列,且 \(\sum_{n=1}^{\infty} E|X_n| < \infty\),则 \[ E\!\left[\sum_{n=1}^{\infty} X_n\right] \;=\; \sum_{n=1}^{\infty} E[X_n]. \] 更一般地,\(E|X|<\infty\) 保证了期望与积分、期望与求和之间的次序交换。
这一性质回答了本节开头的第二个问题。7.2 节的线性性 \(E\big[\sum_{i=1}^{n} X_i\big]=\sum_{i=1}^{n} E[X_i]\) 只涉及有限和,无需任何条件;一旦和变成无穷级数或积分,次序交换就必须以上述绝对可积性为担保。这也解释了 4.3 节定义离散期望时为何要求 \(\sum_x |x|\,p(x)<\infty\):它正是"安全使用期望运算"的入场券。
2. 重尾的警示:期望可能不存在
定理 1 把"期望是否存在"化成一个纯粹的分析学问题:尾部(tail)衰减得够不够快?重尾(heavy-tailed)分布常在这里翻车。下面两个例子是所有概率论学习者都应亲眼看过一遍的"临界现场"。
设 \(X\) 服从标准柯西(Cauchy)分布(5.6 节),密度 \(f(x)=\dfrac{1}{\pi(1+x^2)}\)。证明 \(E[X]\) 不存在。
设 \(P(X=k)=\dfrac{c}{k^2},\; k=1,2,\ldots\),其中 \(c\) 为归一化常数。\(E[X]\) 是否存在?
设 \(P(Y=k)=\dfrac{c'}{k^3},\; k\ge 1\)。证明 \(E[Y]\) 有限并求其值。
柯西分布在 5.6 节作为正态的"照妖镜"登场;7.6 节指出它没有矩母函数;本节看到它连期望都没有;下一章还会看到:大数定律以 \(E|X|<\infty\) 为前提,而柯西总体的样本均值 \(\bar{X}\) 仍服从同一柯西分布——"多次平均"也驯服不了它。一个分布可以在每个点上都有良定义的密度,却在"平均值"这一层整体失灵,这是本节最值得记住的教训。
3. 统一观点:一个积分,两种定义
最后退一步看全局。若把分布函数 \(F(x)=P(X\le x)\) 当作唯一的出发点,可以证明(超出本书范围,仅述结论):无论 \(X\) 离散、连续还是混合,期望都是同一个黎曼–斯蒂尔杰斯积分(Riemann–Stieltjes integral) \[ E[X] \;=\; \int_{-\infty}^{\infty} x \; dF(x) \] 的特例:\(F\) 在 \(x_k\) 处跳起的高度恰是点质量 \(p(x_k)\),积分便"拾起"求和项 \(x_k\,p(x_k)\);\(F\) 平滑上升之处 \(dF(x)=f(x)\,dx\),积分就化为 \(\int x f(x)\,dx\)。离散求和与连续积分,原来是同一个积分在两种 \(F\) 上的投影(图 3)。
4. 本节小结
- 任意 \(X\) 分解为 \(X=X^+-X^-\)(\(X^+=\max(X,0)\),\(X^-=\max(-X,0)\),\(|X|=X^++X^-\));一般定义 \(E[X]=E[X^+]-E[X^-]\),至少一项有限,两项皆 \(+\infty\) 则期望不存在(柯西分布)。
- 判据:\(E[X]\) 存在且有限 \(\iff E|X|<\infty\);非负随机变量的期望总可定义(可能为 \(+\infty\))。
- 交换期望与无穷级数(积分)次序的条件:\(\sum_n E|X_n|<\infty\);论证走"截断 + 单调收敛定理"的路线(本节只陈述)。
- 重尾警示:柯西 \(E[X^\pm]=+\infty\);\(p(k)\propto 1/k^2\) 时期望因调和级数发散,\(\propto 1/k^3\) 时有限——幂次以 2 为临界。
- 统一观点:离散求和与连续积分同为黎曼–斯蒂尔杰斯积分 \(\int x\,dF(x)\) 的特例。
- 第 7 章至此收官:线性性、条件期望、矩母函数三大工具,都运行在绝对可积的安全轨道上;第 8 章的极限定理将在这条轨道上展开。
练习
练习 7-8-1
帕累托(Pareto)分布:密度 \(f(x)=\alpha x^{-(\alpha+1)},\; x\ge 1\)(\(\alpha>0\))。\(\alpha\) 取何值时 \(E[X]\) 有限?并求 \(\alpha=2\) 时的期望。
答案与提示\(E[X]=\alpha\int_1^{\infty} x^{-\alpha}\,dx\),当 \(\alpha>1\) 时收敛于 \(\dfrac{\alpha}{\alpha-1}\);当 \(\alpha\le 1\) 时发散为 \(+\infty\)(\(\alpha=1\) 正是例 2 的连续翻版)。故 \(\alpha=2\) 时 \(E[X]=2\)。
练习 7-8-2
自由度 \(\nu\) 的 \(t\) 分布密度 \(f(x)\propto (1+x^2/\nu)^{-(\nu+1)/2}\),尾部按 \(|x|^{-(\nu+1)}\) 衰减。判断 \(\nu=1,2,4\) 时期望是否存在。
答案与提示\(E|X|\) 有限要求尾被积函数 \(x\,f(x)\) 可积,即尾部幂次 \(\nu+1>2\iff \nu>1\)。\(\nu=1\) 即柯西分布(例 1),期望不存在;\(\nu=2,4\) 时期望存在,且由密度对称性知 \(E[X]=0\)。\(t\) 分布族是"正态被重尾污染"的典型:自由度越低尾越厚。
练习 7-8-3
概念辨析,判断正误:(a) 密度关于 0 对称的随机变量必有 \(E[X]=0\);(b) \(E[X]\) 存在(允许取 \(\pm\infty\))当且仅当 \(E|X|<\infty\);(c) 非负随机变量的期望总是存在的。
答案与提示(a) 错——该结论以期望存在为前提,柯西分布即反例;(b) 错——正确表述是"\(E[X]\) 存在且有限 \(\iff E|X|<\infty\)"(定理 1),例 2 中 \(E[X]=+\infty\) 广义存在而 \(E|X|=\infty\);(c) 对——非负时 \(X^-=0\),\(E[X]=E[X^+]\in[0,+\infty]\) 总有定义。
练习 7-8-4
抛一枚均匀硬币:正面则 \(X=0\),反面则 \(X\sim U(0,2)\)。用"点质量 + 密度"两部分求 \(E[X]\),并说明它如何对应 \(\int x\,dF(x)\) 的两个来源。
答案与提示\(E[X]=\tfrac{1}{2}\times 0+\tfrac{1}{2}\times E[U(0,2)]=\tfrac{1}{2}\times 1=\tfrac{1}{2}\)。分布函数在 \(x=0\) 处跳跃 \(\tfrac{1}{2}\)(贡献求和项 \(0\times\tfrac{1}{2}=0\)),在 \((0,2)\) 上以密度 \(f(x)=\tfrac{1}{4}\) 平滑上升(贡献积分项 \(\int_0^2 x\cdot\tfrac{1}{4}\,dx=\tfrac{1}{2}\)),合计 \(\tfrac{1}{2}\)——与图 3 的结构完全一致。