本节使用事件的集合运算和概率的连续性。读完后应能判断一个集合族是否适合作为事件族,证明两个概率测度相等,并区分扩张的存在、唯一性和完备性。这里的“可数”包括有限情形,所有补集均相对于当前样本空间。
9.1.1 事件族与生成的σ代数
若实验只记录骰子点数属于哪一组,就不能从记录中区分同组的两个结果。事件族刻画模型允许辨认的集合;在连续空间上,它还限定测度的定义域。
集合族 \(\mathcal F\subseteq 2^\Omega\) 称为\(\sigma\) 代数(sigma-algebra),若 \(\Omega\in\mathcal F\),且它对补集、可数并封闭。由德摩根律,它也对可数交封闭;\((\Omega,\mathcal F)\) 称为可测空间(measurable space)。若只要求对补集和有限并封闭,称为集合代数(algebra)。
给定任意集合族 \(\mathcal G\),所有包含它的 \(\sigma\) 代数的交仍是 \(\sigma\) 代数,故可定义
\(2^\Omega\) 保证参与取交的族非空。\(\sigma(\mathcal G)\) 是包含 \(\mathcal G\) 的最小 \(\sigma\) 代数;“最小”指集合包含关系。
在 \(\Omega=\{1,\ldots,6\}\) 上只记录三组 \(A=\{1,2\}\)、\(B=\{3,4\}\)、\(C=\{5,6\}\)。由三组生成的事件族恰为它们的全部并集,共 \(2^3=8\) 个;例如 \(A\cup C\) 是事件,\(\{1\}\) 不是。这些并集本身构成 \(\sigma\) 代数,而任何包含三组的 \(\sigma\) 代数都包含这些并集,因而得到了等号。
若赋予三组概率 \(1/2,1/3,1/6\),则 \(P(A\cup C)=2/3\)。这些数尚未指定单点概率;若另行扩到 \(2^\Omega\),将 \(A\) 的质量全部给 1 或全部给 2 都符合现有信息。唯一性需要同时指定目标事件族。
在 \(\mathbb R\) 上,开集生成的 \(\sigma\) 代数称为博雷尔 \(\sigma\) 代数(Borel sigma-algebra),记为 \(\mathcal B(\mathbb R)\)。常用的较小生成族是有理端点半直线:
这些半直线都是闭集,故右侧包含于左侧。反过来,\((-\infty,b)=\bigcup_{q<b,\ q\in\mathbb Q}(-\infty,q]\),又有 \((-\infty,a]=\bigcap_n(-\infty,a+1/n)\),再取补集和交可得开区间。每个开集又是其中所含有理端点开区间的可数并,因此右侧包含全部开集。这也说明检查可测性时为何常只需检查半直线。
9.1.2 概率测度与σ有限性
测度(measure)是函数 \(\mu:\mathcal F\to[0,\infty]\),满足 \(\mu(\varnothing)=0\),并对两两不交的 \(E_n\in\mathcal F\) 满足可数可加性:
\((\Omega,\mathcal F,\mu)\) 称为测度空间;若 \(\mu(\Omega)=1\),则 \(\mu=P\) 是概率测度(probability measure),相应三元组是概率空间。若 \(\mu(\Omega)<\infty\),称为有限测度;若存在 \(H_n\in\mathcal F\) 覆盖 \(\Omega\),且每个 \(\mu(H_n)<\infty\),称为 \(\sigma\) 有限(sigma-finite)。
有限或可数样本空间通常取 \(\mathcal F=2^\Omega\),由非负权重 \(p_\omega\) 且 \(\sum_\omega p_\omega=1\) 定义 \(P(E)=\sum_{\omega\in E}p_\omega\)。非负级数可重排,给出可数可加性;反之取 \(p_\omega=P(\{\omega\})\) 即恢复此式。不可数空间不能照搬单点求和:区间上的均匀概率赋每个单点概率零,却赋整个区间概率一。
实数轴的长度测度不是有限测度,但由 \([-n,n]\) 覆盖可见它是 \(\sigma\) 有限的。一般测度仍具有从下连续性;当递减列中的某个集合测度有限时,从上连续性也成立。不能无条件删去有限性:长度测度下 \([n,\infty)\downarrow\varnothing\),每项测度却都是无穷。概率测度的总质量有限,自动满足这一条件。定义与基本性质可对照 MIT 讲义 1。
9.1.3 π–λ定理与唯一性证明
两个测度在少数集合上相等,未必在生成的全部事件上相等;需要控制这些集合的交。集合族 \(\mathcal P\) 若满足 \(A,B\in\mathcal P\Rightarrow A\cap B\in\mathcal P\),称为 \(\pi\) 系统(pi-system)。集合族 \(\mathcal D\) 若包含 \(\Omega\),对补集及可数不交并封闭,称为 \(\lambda\) 系统(lambda-system,又称 Dynkin 系统)。若 \(E\subseteq F\) 且 \(E,F\in\mathcal D\),则 \(F\setminus E=(F^c\cup E)^c\in\mathcal D\)。
若 \(\mathcal P\) 是 \(\pi\) 系统,\(\mathcal L\) 是包含 \(\mathcal P\) 的 \(\lambda\) 系统,则 \(\sigma(\mathcal P)\subseteq\mathcal L\)。
令 \(\mathcal D\) 为所有包含 \(\mathcal P\) 的 \(\lambda\) 系统之交;它仍是 \(\lambda\) 系统,且 \(\mathcal D\subseteq\mathcal L\)。对固定 \(A\in\mathcal D\),定义 \(\mathcal D_A=\{B\subseteq\Omega:A\cap B\in\mathcal D\}\)。因为 \(A\in\mathcal D\),有 \(\Omega\in\mathcal D_A\)。若 \(B\in\mathcal D_A\),则 \(A\cap B^c=A\setminus(A\cap B)\in\mathcal D\);对不交并的封闭性直接由交对并的分配律得到。因此 \(\mathcal D_A\) 是 \(\lambda\) 系统。
先固定 \(A\in\mathcal P\)。交封闭性给出 \(\mathcal P\subseteq\mathcal D_A\),由最小性,\(\mathcal D\subseteq\mathcal D_A\)。所以 \(A\in\mathcal P,B\in\mathcal D\) 时 \(A\cap B\in\mathcal D\)。再固定任意 \(B\in\mathcal D\),刚得出的结论表明 \(\mathcal P\subseteq\mathcal D_B\),故 \(\mathcal D\subseteq\mathcal D_B\)。于是 \(\mathcal D\) 对交封闭。
补集与交给出有限并。任意可数并可用 \(C_1=E_1\)、\(C_n=E_n\setminus\bigcup_{j<n}E_j\) 化成可数不交并,故 \(\mathcal D\) 实为 \(\sigma\) 代数。于是 \(\sigma(\mathcal P)\subseteq\mathcal D\subseteq\mathcal L\)。
有限测度唯一性。设 \(\mu,\nu\) 是 \((\Omega,\mathcal F)\) 上有限测度,\(\mu(\Omega)=\nu(\Omega)\),且在生成 \(\mathcal F\) 的 \(\pi\) 系统 \(\mathcal P\) 上相等。集合族 \(\mathcal L=\{E\in\mathcal F:\mu(E)=\nu(E)\}\) 包含 \(\Omega\);有限总质量使补集公式中的减法合法,可数可加性又保证它对不交并封闭。应用定理即得 \(\mu=\nu\)。对概率测度,总质量相等无需额外检查。该证明使用的生成族条件见 Durrett 附录 A.1。
例如 \((\mathbb R,\mathcal B(\mathbb R))\) 上的两个概率测度,只要对每个 \(q\in\mathbb Q\) 都有 \(\mu((-\infty,q])=\nu((-\infty,q])\),就相等:这些半直线对交封闭,并由式 (9.1-2) 生成博雷尔事件族。这个结论只证明唯一性,尚未构造出任何测度。
9.1.4 从预测度到Carathéodory扩张
设 \(\mathcal A\) 是集合代数。函数 \(\mu_0:\mathcal A\to[0,\infty]\) 称为预测度(premeasure),若 \(\mu_0(\varnothing)=0\),且每当两两不交的 \(A_n\in\mathcal A\) 的并仍属于 \(\mathcal A\) 时,都有 \(\mu_0(\bigcup_n A_n)=\sum_n\mu_0(A_n)\)。这个限制只涉及等式左端有定义的情形;仅有有限可加性不足以保证扩张。
集合代数 \(\mathcal A\) 上的预测度 \(\mu_0\) 可扩张为 \(\sigma(\mathcal A)\) 上的测度。若存在 \(H_n\in\mathcal A\) 覆盖 \(\Omega\),且 \(\mu_0(H_n)<\infty\),则该扩张在 \(\sigma(\mathcal A)\) 上唯一。存在性不要求 \(\sigma\) 有限;去掉它后,唯一性可能失败。
构造从任意子集的覆盖开始。允许可数个 \(A_n\in\mathcal A\),定义外测度(outer measure)
它在全部子集上有定义,满足空集取零、单调性和可数次可加性,却未必可加。若 \(\sum_j\mu^*(E_j)=\infty\),次可加不等式自动成立;否则给第 \(j\) 个集合选总质量至多 \(\mu^*(E_j)+\varepsilon 2^{-j}\) 的覆盖,再合并所有覆盖,可得 \(\mu^*(\bigcup_jE_j)\leq\sum_j\mu^*(E_j)+\varepsilon\)。令 \(\varepsilon\downarrow0\) 即得结论。
Carathéodory 用以下切分条件定义 \(\mu^*\) 可测集合:
先说明原定义被保留。若 \(A\in\mathcal A\) 被 \(A_n\) 覆盖,集合 \(B_n=A\cap(A_n\setminus\bigcup_{j<n}A_j)\) 属于 \(\mathcal A\),两两不交且并为 \(A\)。预测度性质给出 \(\mu_0(A)=\sum_n\mu_0(B_n)\leq\sum_n\mu_0(A_n)\)。对覆盖取下确界,再用 \(A\) 自身作覆盖,即得 \(\mu^*(A)=\mu_0(A)\)。
其次,任一覆盖集合都能沿 \(A\in\mathcal A\) 切为 \(A_n\cap A\) 与 \(A_n\setminus A\),质量不变。因此式 (9.1-5) 中“\(\geq\)”对 \(E=A\) 成立;反向不等式来自次可加性。故 \(\mathcal A\subseteq\mathcal M\)。
余下的 Carathéodory 可测性定理证明:\(\mathcal M\) 是 \(\sigma\) 代数,\(\mu^*|_{\mathcal M}\) 是完备测度。方法是反复切分有限个不交集合,再取极限获得可数并和可数可加性;完整的闭包论证此处不展开,见 Durrett 附录 A.1,Lemma A.1.7。限制到 \(\sigma(\mathcal A)\subseteq\mathcal M\) 即得到所需扩张。
唯一性可完整地归结到上一节:把有限质量覆盖改为递增的 \(K_n=\bigcup_{j\leq n}H_j\in\mathcal A\)。若 \(\mu,\nu\) 都扩张 \(\mu_0\),则 \(E\mapsto\mu(E\cap K_n)\) 与 \(E\mapsto\nu(E\cap K_n)\) 是在 \(\mathcal A\) 上一致的有限测度,由唯一性推论在 \(\sigma(\mathcal A)\) 上一致。令 \(n\to\infty\),从下连续性给出 \(\mu(E)=\nu(E)\)。
9.1.5 勒贝格空间与完备化
取 \(\Omega=(0,1]\),令 \(\mathcal A\) 为有限个互不相交区间 \((a_j,b_j]\)(\(0\leq a_j<b_j\leq1\))的并,包括空并。规定 \(\mu_0(\bigcup_{j=1}^k(a_j,b_j])=\sum_{j=1}^k(b_j-a_j)\)。共同细分端点保证定义不依赖表示并且有限可加。成为预测度还需要一个分析步骤:紧区间的开覆盖存在有限子覆盖,由内缩、外扩区间的长度误差趋零,可推出长度对可数覆盖的次可加性,再结合有限可加性得到预测度性质。此紧性论证详见 MIT 讲义 2,第 3 节。
扩张定理给出博雷尔事件族上唯一的概率 \(P\)。若 \(U(\omega)=\omega\),则 \(P(1/5<U\leq3/5)=2/5\)。又因 \(\{x\}\subseteq(x-\varepsilon,x]\cap(0,1]\),单调性给出 \(P(\{x\})\leq\varepsilon\),故每个单点概率为零。可数可加性于是给出 \(P(U\in\mathbb Q)=0\)、\(P(U\notin\mathbb Q)=1\)。这两种事件在每个非空开区间内都出现,稠密性并不决定概率大小。
在 \(\mathbb R\) 上同样由区间长度得到勒贝格测度(Lebesgue measure)。为区分定义域,先记博雷尔上的版本为 \(m\)。它尚未包含每个零测集的所有子集。
若 \(Z\in\mathcal F,\mu(Z)=0\) 蕴含 \(Z\) 的任意子集均属于 \(\mathcal F\),则测度空间称为完备(complete)。任意测度空间都有如下完备化(completion):
两个表示中的 \(B\) 仅在一个可测零集内可能不同,故赋值无歧义。可数并将所有零集并在一起;补集可写成 \((B^c\setminus Z)\cup(B^c\cap(Z\setminus N))\),仍有上述形式。对不交的 \(B_j\cup N_j\),其 \(B_j\) 也不交,可数可加性随即由原测度得到。新零集都包含于原来的某个可测零集,故新空间完备。
例如 \(\Omega=\{a,b,c\}\),\(\mathcal F=\{\varnothing,\{a\},\{b,c\},\Omega\}\),且 \(P(\{a\})=1\)。原族缺少 \(\{b\}\),所以不完备;补入零集 \(\{b,c\}\) 的所有子集后得到 \(2^\Omega\),新加入的单点 \(b,c\) 概率均为零。
博雷尔长度测度的完备化定义域记为 \(\mathcal L(\mathbb R)\),其元素称为勒贝格可测集,完备后的测度仍记为 \(m\)。它严格包含 \(\mathcal B(\mathbb R)\):康托集是不可数的博雷尔零集,它的所有子集都勒贝格可测,而其中有非博雷尔子集。这里的存在性用到集合基数比较:博雷尔集只有连续统多个,康托集的子集更多;此基数结论不在本节证明。完备化定理的完整表述见 Durrett 附录 A.2。
9.1.6 不可测集合与构造边界
完备化仍不等于取全部子集。在通常含选择公理的集合论中,令 \(x\sim y\) 表示 \(x-y\in\mathbb Q\),并从 \([0,1]\) 的每个等价类选一个代表,组成 Vitali 集 \(V\)。若 \(V\) 勒贝格可测,则所有 \(V+q\)(\(q\in\mathbb Q\cap[-1,1]\))可测且测度相同。
这些平移集两两不交:\(v+q=w+r\) 蕴含 \(v-w\in\mathbb Q\),代表元唯一性给出 \(v=w\),继而 \(q=r\)。它们的并覆盖 \([0,1]\),并包含于 \([-1,2]\)。若 \(m(V)=0\),可数并的测度为零,与覆盖长度为一的区间矛盾;若 \(m(V)>0\),可数可加性使并的测度无穷,与其有界位置矛盾。因此 \(V\notin\mathcal L(\mathbb R)\)。这里使用的是长度测度的平移不变性。
上述论证排除的是“在所有子集上同时保持区间长度、平移不变性与可数可加性”。它没有排除所有子集上的任意概率:固定 \(x_0\) 的点质量 \(P(E)=\mathbf1_{\{x_0\in E\}}\) 就在 \(2^{\mathbb R}\) 上成立。可测性始终相对于指定的 \(\sigma\) 代数;同一集合在不同模型中可以有不同地位。
本节建立了赋概率的定义域和构造方法。下一节将把可测映射引入这些空间,并把随机变量的分布写成概率测度;乘积测度一节会再次用到生成族上的唯一性。
9.1.7 练习与解答
习题 9.1-1 生成族与计算
在 \(\Omega=\{1,2,3,4\}\) 上令 \(A=\{1,2\}\)、\(B=\{2,3\}\)。求 \(\sigma(A,B)\)。已知 \(P(A)=1/2\)、\(P(B)=2/3\)、\(P(A\cap B)=1/4\),求全部单点概率。
交与补集给出四个原子 \(A\cap B=\{2\}\)、\(A\cap B^c=\{1\}\)、\(A^c\cap B=\{3\}\)、\(A^c\cap B^c=\{4\}\),故生成 \(2^\Omega\),共 16 个事件。依次计算 \(p_2=1/4\)、\(p_1=1/2-1/4=1/4\)、\(p_3=2/3-1/4=5/12\),以及 \(p_4=1-(p_1+p_2+p_3)=1/12\)。四数均非负且总和为一,因而确实定义概率测度。
习题 9.1-2 任意生成族为何不够
沿用上一题的 \(A,B\),构造两个不同概率测度,使它们在 \(\{A,B\}\) 上相等。解释这为什么不违反 \(\pi\)–\(\lambda\) 定理。
按 \(1,2,3,4\) 排列,取单点质量 \(P=(1/4,1/4,1/4,1/4)\) 与 \(Q=(1/8,3/8,1/8,3/8)\)。两者均在 \(A,B\) 上取值 \(1/2\),但 \(P(\{2\})=1/4\neq3/8=Q(\{2\})\)。虽然 \(\sigma(A,B)=2^\Omega\),集合族 \(\{A,B\}\) 不含交集 \(\{2\}\),不是 \(\pi\) 系统。即使另加 \(\Omega\),这个缺口仍在。
习题 9.1-3 有限可加性为何不够
令 \(\mathcal A\) 为 \(\mathbb N\) 上的有限集与余有限集组成的代数,有限集赋值零,余有限集赋值一。证明它有限可加,却不能扩张为包含 \(\mathcal A\) 的 \(\sigma\) 代数上的概率测度。
两个不交集合若都有限,并仍有限;若一个余有限,另一个只能有限,并仍余有限。两个余有限集不能不交,故有限可加性在所有可能情形都成立。然而所有单点均取值零,而它们的可数不交并是 \(\mathbb N\),赋值为一。这直接违反预测度条件。任何扩张都必须保留这些数,因此可数可加的扩张不存在。
习题 9.1-4 缺少σ有限性时的非唯一扩张
令 \(\Omega=(0,1]\),\(\mathcal A\) 为有限个半开区间 \((a,b]\)(\(0\leq a<b\leq1\))的并,包括空并。令 \(\mu_0(\varnothing)=0\),其余集合取值 \(\infty\)。证明它是预测度,并在 \(\mathcal B((0,1])\) 上构造两个不同扩张。
任何非空的可数不交并至少含一个非空成员,故其两侧都为 \(\infty\),空集情形也成立;所以这是预测度。但仅空集测度有限,无法作有限质量的可数覆盖。
第一个扩张是计数测度 \(\mu(E)=|E|\)(无限集取 \(\infty\))。第二个为 \(\nu(E)=0\)(\(E\) 可数)及 \(\nu(E)=\infty\)(\(E\) 不可数)。可数个可数集的并仍可数;若可数并不可数,至少一个成员不可数,这证明 \(\nu\) 的可数可加性。非空的 \(\mathcal A\) 中集合都含一个正长度区间,故不可数,两测度都扩张 \(\mu_0\)。但单点在 \(\mu\) 下测度为一,在 \(\nu\) 下为零,扩张不唯一。
关键术语
- \(\sigma\) 代数:对补集和可数并封闭的事件族。
- 生成的 \(\sigma\) 代数:包含指定集合族的最小 \(\sigma\) 代数。
- 博雷尔集:属于开集生成的 \(\sigma\) 代数的集合。
- 概率测度:总质量为一的非负可数可加测度。
- \(\sigma\) 有限:全空间可被可数个有限测度的可测集覆盖。
- \(\pi\) 系统与 \(\lambda\) 系统:分别提供交封闭性与不交可加结构的集合族。
- 预测度与外测度:分别是代数上的可数可加初值及覆盖构造的次可加集函数。
- 完备化:加入所有可测零集的子集,并将其测度置零。
参考文献与延伸阅读
- Durrett, R. (2019). Probability: Theory and Examples, 5th ed.,作者版本。第 1.1 节;附录 A.1 的扩张与 \(\pi\)–\(\lambda\) 定理,附录 A.2 的完备化与不可测集合。
- Polyanskiy, Y. (2018). MIT 6.436J,Lecture 1: Probabilistic Models and Probability Measures。概率空间、公理与测度连续性。
- Polyanskiy, Y. (2018). MIT 6.436J,Lecture 2: Two Fundamental Probabilistic Models。第 3 节的区间长度构造,第 5–6 节的可测性与不可测性。