- 写出联合分布函数 \(F(x,y)=P(X\le x,\,Y\le y)\) 的定义,并用矩形公式计算 \(P(a<X\le b,\ c<Y\le d)\);
- 由联合分布列(离散)或联合密度(连续)求指定事件的概率:正确求和、正确画域定限;
- 由联合分布求边缘分布(对某个变量求和或积分),并说明"边缘由联合决定,反之不可";
- 说明支撑集与二维均匀分布的含义,会在给定区域上写出均匀密度并计算概率;
- 通过反例辨析"边缘分布相同而联合分布不同",为 6.2 节的独立性概念做好铺垫。
1. 从一维到二维:联合分布函数
第 4、5 章一次只研究一个随机变量:分布列与分布函数刻画单个 \(X\) 的取值规律(4.1 节),密度函数刻画连续型 \(X\) 落入区间的概率(5.1 节)。然而现实问题常常需要同时用多个数值来描述一次随机试验:一名新生儿的体重与身高、一台系统两条支路的寿命、一场保险事故中索赔次数与索赔总额。要回答"\(|X-Y|\) 超过 1 的概率是多少"这类问题,仅知道 \(X\) 与 \(Y\) 各自的分布是不够的——我们还必须知道二者如何联动。本章把概率"装载"到随机向量(random vector) \((X,Y)\) 上,研究其联合分布(joint distribution)。作为开篇,本节先建立最一般的刻画工具:联合分布函数、联合分布列与联合密度,并引出边缘分布与支撑集两个基本概念。
设 \(X\) 与 \(Y\) 是定义在同一样本空间上的两个随机变量。对任意实数 \(x,y\),称二元函数 \[ F(x,y) \;=\; P(X\le x,\; Y\le y) \] 为 \((X,Y)\) 的联合分布函数(joint distribution function),简称联合 CDF。
直观上,\(F(x,y)\) 是随机点 \((X,Y)\) 落入以 \((x,y)\) 为右上角、向左下方无限延伸的无穷矩形区域内的概率;一维分布函数 \(F(x)=P(X\le x)\)(4.1 节)是其退化情形。与一维类似,联合 CDF 具有如下基本性质:对每个变元单调不减、右连续;\(F(x,-\infty)=F(-\infty,y)=0\);\(F(+\infty,+\infty)=1\)。此外,在联合 CDF 中令 \(y\to+\infty\)(事件 \(\{Y\le y\}\) 单调扩大趋于全空间),即得 \(X\) 自身的分布函数 \(F_X(x)=P(X\le x)\)——这预示了本节稍后"边缘分布"的概念。
联合 CDF 对任意二维事件的计算并不方便,真正常用的是下面这个"挖矩形"公式,它是把平面事件拆成四个角点函数值的关键工具。
若 \(a<b\),\(c<d\),则 \[ P(a<X\le b,\; c<Y\le d) \;=\; F(b,d)-F(a,d)-F(b,c)+F(a,c). \]
2. 离散情形:联合分布列与边缘分布列
若 \((X,Y)\) 只取有限多或可数多对值,则称其为离散随机向量。此时最自然的刻画工具是把概率直接挂在每个格点上。
称 \[ p(x,y) \;=\; P(X=x,\; Y=y) \] 为 \((X,Y)\) 的联合分布列(joint probability mass function,联合 pmf)。它满足 \(p(x,y)\ge 0\) 且 \(\displaystyle\sum_x\sum_y p(x,y)=1\);对任意 \(A\subset\mathbb{R}^2\), \[ P\bigl((X,Y)\in A\bigr) \;=\; \sum_{(x,y)\in A} p(x,y). \]
由联合分布列对某个变量求和,得 \[ p_X(x) \;=\; \sum_y p(x,y), \qquad p_Y(y) \;=\; \sum_x p(x,y), \] 分别称为 \(X\) 与 \(Y\) 的边缘分布列(marginal probability mass function)。
"边缘"(marginal)一词源于传统记法:把联合概率排成矩阵,行和与列和写在表格的边缘(margin)上——这正是定义中求和的几何含义。
将一枚均匀硬币独立地掷 3 次。以 \(X\) 记正面总数,\(Y\) 记反面总数。写出 \((X,Y)\) 的联合分布列与两个边缘分布列。
| \(p(x,y)\) | \(x=0\) | \(x=1\) | \(x=2\) | \(x=3\) | 边缘 \(p_Y\) |
|---|---|---|---|---|---|
| \(y=3\) | \(1/8\) | 0 | 0 | 0 | \(1/8\) |
| \(y=2\) | 0 | \(3/8\) | 0 | 0 | \(3/8\) |
| \(y=1\) | 0 | 0 | \(3/8\) | 0 | \(3/8\) |
| \(y=0\) | 0 | 0 | 0 | \(1/8\) | \(1/8\) |
| 边缘 \(p_X\) | \(1/8\) | \(3/8\) | \(3/8\) | \(1/8\) | \(1\) |
边缘分布列由行和、列和得到:\(p_X(0)=p_X(3)=1/8\),\(p_X(1)=p_X(2)=3/8\),\(Y\) 完全对称——两者都是 \(B(3,\tfrac12)\) 二项分布(4.6 节)。但请注意:从这两条边缘上完全看不出 \(X+Y\equiv 3\) 这一刚性关系;若 \(X\) 与 \(Y\) 真的"各自独立地"服从 \(B(3,\tfrac12)\),16 个格子都会有正概率。这一现象背后的道理将在第 5 小节严格剖析。图 1 用颜色深浅把表 1 画成"热力表":支撑的反对角线结构与边缘行列一目了然。
3. 连续情形:联合密度函数与边缘密度
当 \((X,Y)\) 的可能取值充满平面区域时,概率像"质量"一样连续地铺在平面上,刻画工具由求和换为积分。
若存在非负函数 \(f(x,y)\),使得对(可测)区域 \(R\subset\mathbb{R}^2\) 都有 \[ P\bigl((X,Y)\in R\bigr) \;=\; \iint_R f(x,y)\,dx\,dy, \qquad \iint_{\mathbb{R}^2} f(x,y)\,dx\,dy = 1, \] 则称 \(f\) 为 \((X,Y)\) 的联合密度函数(joint probability density function,联合 pdf)。
与一维情形(5.1 节)相同,\(f(x,y)\) 本身不是概率,而是单位面积上的概率质量:\(P(x<X\le x+dx,\ y<Y\le y+dy)\approx f(x,y)\,dx\,dy\)。求事件的概率,就是把密度在事件区域上积分——画域、定限因此成为本节最重要的计算技能(见第 4 小节)。
由联合密度对某个变量积分,得 \[ f_X(x) \;=\; \int_{-\infty}^{+\infty} f(x,y)\,dy, \qquad f_Y(y) \;=\; \int_{-\infty}^{+\infty} f(x,y)\,dx, \] 分别称为 \(X\) 与 \(Y\) 的边缘密度函数(marginal probability density function)。
理由与离散情形平行的"求和"完全一致:竖直细条 \(\{X\in(x,x+dx]\}\) 上的概率等于把该条内一切 \(y\) 处的质量积分起来,故 \(P(X\in(x,x+dx])\approx f_X(x)\,dx\)。几何上,\(f_X\) 就是把整个平面沿 \(y\) 方向"压扁"后得到的线密度。
设 \(f(x,y)=e^{-(x+y)}\)(\(x>0,\ y>0\);其余处为 0)。验证它是合法的联合密度,并求两个边缘密度。
设 \(f(x,y)=c\,xy\)(\(0<x<1,\ 0<y<1\);其余处为 0)。求常数 \(c\) 与两个边缘密度。
4. 支撑集与二维均匀分布
前面几例中,密度取正值的区域各不相同:例 2 是整个第一象限,例 3 是单位正方形,例 4 将是单位三角形。这个"可能落入的区域"值得命名。
使联合分布列取正值的所有格点(离散情形),或联合密度取正值的区域(连续情形),称为 \((X,Y)\) 的支撑集(support)。若 \((X,Y)\) 在面积为 \(\mathrm{Area}(D)\) 的区域 \(D\) 上均匀分布(uniform distribution on a region),则 \[ f(x,y) \;=\; \begin{cases} \dfrac{1}{\mathrm{Area}(D)}, & (x,y)\in D, \\[.4em] 0, & \text{其余}. \end{cases} \]
二维均匀是几何概型(2.5 节)的随机变量语言:概率与面积成正比,\(P((X,Y)\in A)=\mathrm{Area}(A\cap D)/\mathrm{Area}(D)\)。支撑集的形状往往是解题的第一线索:先画出支撑与事件区域的交,再据此确定累次积分的上下限。
设 \((X,Y)\) 在三角形区域 \(D=\{0<y<x<1\}\) 上均匀分布。(a) 写出联合密度;(b) 求 \(P(Y<\tfrac12)\);(c) 求两个边缘密度。
5. 联合决定边缘,边缘不能决定联合
把第 2、3 小节的计算方向捋清楚,可以得到本节最重要的结构性结论。
(i) \((X,Y)\) 的联合分布唯一决定 \(X\) 与 \(Y\) 的边缘分布;
(ii) 反之, \(X\) 与 \(Y\) 的边缘分布一般不能决定联合分布。
(ii) 反例:例 1 中 \(X\) 与 \(Y\) 的边缘均为 \(B(3,\tfrac12)\)。现修改试验:掷 3 枚硬币记正面数 \(X\),再独立地另掷 3 枚硬币记反面数 \(Y^{*}\)。则 \((X,Y^{*})\) 的两个边缘与 \((X,Y)\) 的逐点相同,但联合分布不同: \[ P(X=3,\,Y=3)=0 \quad\text{(因 } 3+3\ne 3\text{)}, \qquad P(X=3,\,Y^{*}=3)=\frac18\times\frac18=\frac{1}{64}. \] 同样的边缘,不同的联合,故边缘不能决定联合。
这一不对等可以打个比方:把联合分布想成一张照片,边缘分布只是它向两条坐标轴的投影。每个投影都由照片唯一决定,但两条投影一般还原不出照片——因为投影丢掉了"像素如何搭配"的信息。用概率的语言说:联合分布 = 边缘分布 + 相依结构(dependence structure);求边缘的"求和/积分"是一趟有去无回的降维旅行。补全缺失信息的两条正道将在本章展开:6.2 节假设相依结构最简单(联合等于边缘之乘积,即独立性);6.4、6.5 节则用条件分布直接刻画 \(X\) 与 \(Y\) 的联动方式。
初学者最易犯的错误是"由边缘拼联合"——比如把例 4 的边缘 \(2x\) 与 \(2(1-y)\) 相乘当作联合密度(得到的 \(4x(1-y)\) 与真实联合 \(f\equiv 2\) 截然不同),或把例 1 的两条二项边缘填满全部 16 个格子。除非附加独立性假设(6.2 节),边缘永远只提供"各自如何取值",不提供"如何一起取值"。统计学中刻画"边缘 + 相依结构"如何搭配成合法联合的数学工具称为连接函数(copula),其思想与本节反例一脉相承;而在本教程中,请牢记操作守则:联合 → 边缘,随时可算;边缘 → 联合,必须额外假设。
6. 本节小结
- 联合分布函数 \(F(x,y)=P(X\le x,\,Y\le y)\) 完整刻画 \((X,Y)\) 的规律;矩形公式 \(P(a<X\le b,\,c<Y\le d)=F(b,d)-F(a,d)-F(b,c)+F(a,c)\) 把平面事件化为四个角点值。
- 离散用联合分布列 \(p(x,y)\)(非负、总和为 1),事件概率对格点求和;连续用联合密度 \(f(x,y)\)(非负、积分为 1),事件概率对区域积分——先画域、再定限。
- 边缘分布由联合"压扁"得到:离散对行/列求和,连续对某个变量积分;支撑集是概率真正"生活"的区域,其形状是解题的第一线索。
- 区域 \(D\) 上的二维均匀分布:\(f=1/\mathrm{Area}(D)\),概率化为面积比(例 4:三角域上 \(f=2\),\(P(Y<\tfrac12)=\tfrac34\))。
- 联合唯一决定边缘,边缘不能决定联合(反例见定理 2);缺失的相依结构需靠独立性(6.2)或条件分布(6.4、6.5)补全。
练习
练习 6-1-1
设 \((X,Y)\) 的联合分布列为 \(p(1,1)=0.10\)、\(p(2,1)=0.20\)、\(p(3,1)=0.30\)、\(p(1,2)=0.15\)、\(p(2,2)=0.10\)、\(p(3,2)=0.15\)(\(x=1,2,3\);\(y=1,2\))。求 (a) 两个边缘分布列;(b) \(P(X\ge Y)\);(c) \(P(X+Y=4)\)。
答案与提示(a) 行和给 \(p_Y(1)=0.60,\ p_Y(2)=0.40\);列和给 \(p_X(1)=0.25,\ p_X(2)=0.30,\ p_X(3)=0.45\)。(b) 满足 \(x<y\) 的格只有 \((1,2)\),故 \(P(X\ge Y)=1-0.15=0.85\)。(c) \(x+y=4\) 的格为 \((2,2)\) 与 \((3,1)\):\(P=0.10+0.30=0.40\)。
练习 6-1-2
设 \(f(x,y)=c\,xy\)(\(x>0,\ y>0,\ x+y<1\);其余处为 0)。求常数 \(c\) 与两个边缘密度。
答案与提示画域定限(对固定 \(x\in(0,1)\),\(y\) 从 \(0\) 到 \(1-x\)):\(\int_0^1\!\!\int_0^{1-x} xy\,dy\,dx=\int_0^1 \tfrac{x(1-x)^2}{2}\,dx=\tfrac1{24}\),故 \(c=24\)。边缘:\(f_X(x)=\int_0^{1-x}24xy\,dy=12x(1-x)^2\)(\(0<x<1\));由 \(x,y\) 的对称性,\(f_Y(y)=12y(1-y)^2\) 同型。校验:\(\int_0^1 12x(1-x)^2\,dx=12\cdot\tfrac1{12}=1\)。
练习 6-1-3
概念题:已知 \(X\) 与 \(Y\) 的边缘分布,能否确定联合分布?构造两张联合表,使边缘同为 \(P(X=0)=P(X=1)=P(Y=0)=P(Y=1)=\tfrac12\) 而联合不同,并结合例 1 说明这对数据分析的启示。
答案与提示不能。表 A:四格均为 \(\tfrac14\)(\(X,Y\) 独立);表 B:\(p(0,0)=p(1,1)=\tfrac12\),其余为 0(完全正相关)。两者边缘逐点相同,联合却截然不同。例 1 同理:\(X,Y\) 的边缘均为 \(B(3,\tfrac12)\),但支撑被压缩到反对角线 \(x+y=3\) 上;若二者独立,16 个格子都应有正概率。启示:只看各变量的"单变量摘要"会完全丢失变量间的联动信息,必须回到联合(或条件)层面。
练习 6-1-4
在例 4 的密度(\(f=2\),\(0<y<x<1\))下,计算 \(F(\tfrac12,\tfrac12)=P(X\le\tfrac12,\ Y\le\tfrac12)\) 与 \(P(X+Y\le 1)\)。
答案与提示两问都要画域。(a) 区域为 \(\{0<y<x<\tfrac12\}\):\(\int_0^{1/2}\!\!\int_0^{x} 2\,dy\,dx=\int_0^{1/2}2x\,dx=\tfrac14\)。(b) 注意在 \(D\) 内恒有 \(y<x\),且需 \(y<1-x\),即 \(y<\min(x,1-x)\):\(\int_0^{1/2}2x\,dx+\int_{1/2}^{1}2(1-x)\,dx=\tfrac14+\tfrac14=\tfrac12\)。可对照图 2 左检验积分限。