- 逐一验证 \(P(\cdot\,|\,F)\) 满足概率的三条公理（非负性、规范性、可数可加性），并能独立复述证明；
- 解释"条件世界"观点：已知 \(F\) 发生后，\(F\) 成为新的样本空间，\(F\) 之外事件的条件概率为 0；
- 列出并使用第 2 章结论的条件版：补规则、单调性、容斥原理、布尔不等式与概率的连续性；
- 运用条件版全概率公式与条件版贝叶斯公式求解两阶段信息更新问题；
- 通过反例辨析"条件独立"与"独立"的区别，体会独立性依赖于所在的概率世界。
1. 三条公理的逐一验证
在 3.2 节中，我们对一对事件定义了条件概率 \(P(E\,|\,F)=P(EF)/P(F)\)（要求 \(P(F)>0\)），并多次把它当作"概率"来使用。本节为这一做法提供合法性证明。回顾 2.3 节，一个函数要成为概率(probability)，必须满足三条概率公理(axioms of probability)：非负性、规范性与可数可加性。现在把 \(E\) 视为自变量、把 \(F\) 视为固定参数，逐条检验 \(P(\cdot\,|\,F)\)——结论是：它完全通过检验，因而本身就是一个货真价实的概率。
设 \(P\) 为样本空间 \(S\) 上的概率，\(F\) 为事件且 \(P(F)>0\)。对每个事件 \(E\)，令 \[ P_F(E)=P(E\,|\,F)=\frac{P(EF)}{P(F)}. \] 把 \(E\) 视为自变量、\(F\) 固定，所得的函数 \(P_F:\ E\mapsto P(E\,|\,F)\) 称为给定 \(F\) 时的条件概率测度(conditional probability measure)。
3.2 节把 \(P(E\,|\,F)\) 看作"一个数"；本节的关键是换一个视角：固定 \(F\)、让 \(E\) 在全部事件上变动，问这个函数具有哪些性质。
设 \(P\) 为样本空间 \(S\) 上的概率，\(F\) 为事件且 \(P(F)>0\)。则 \(P_F(E)=P(EF)/P(F)\) 满足概率的三条公理，因而 \(P_F=P(\cdot\,|\,F)\) 是一个概率：
（A1 非负性）对一切事件 \(E\)，有 \(P_F(E)\ge 0\)；
（A2 规范性）\(P_F(S)=1\)；
（A3 可数可加性）对任意两两互斥的事件列 \(E_1,E_2,\ldots\)，有 \(P_F\big(\bigcup_i E_i\big)=\sum_i P_F(E_i)\)。
（A1）由概率的非负性，\(P(EF)\ge 0\)，又分母 \(P(F)>0\)，故 \(P_F(E)=P(EF)/P(F)\ge 0\)。
（A2）因 \(SF=F\)，故 \(P_F(S)=P(SF)/P(F)=P(F)/P(F)=1\)。
（A3）设 \(E_1,E_2,\ldots\) 两两互斥。先注意事件列 \(E_1F,\,E_2F,\ldots\) 也两两互斥：若 \(i\ne j\) 且 \(E_iF\) 与 \(E_jF\) 含有公共样本点，则该点同时属于 \(E_i\) 与 \(E_j\)，与假设矛盾。于是由分配律 \(\big(\bigcup_i E_i\big)F=\bigcup_i (E_iF)\)，再对 \(P\) 用可数可加性，得 \[ P_F\Big(\bigcup_i E_i\Big)=\frac{P\big(\bigcup_i E_iF\big)}{P(F)}=\frac{\sum_i P(E_iF)}{P(F)}=\sum_i\frac{P(E_iF)}{P(F)}=\sum_i P_F(E_i). \] 三条公理全部成立，证毕。
三条验证都只是"一行的推理"，但含义深远。A1、A2 几乎是直接的；实质性的步骤是 A3——它把 \(P\) 自身的可数可加性沿"交 \(F\)、除以 \(P(F)\)"的管道完整地传递给了 \(P_F\)。从这一刻起，条件概率不再是一个孤立的记号，而是与第 2 章的概率平起平坐的数学对象。
2. "条件世界"：以 F 为新的全集
定理 1 允许我们采取一种极富成效的观点。试验之前，心中的全集是 \(S\)；一旦得知 \(F\) 已发生，\(S\setminus F\) 中的样本点被彻底排除——它们再也不会被观察到，其条件概率为 0。于是不妨把 \(F\) 之外的部分整体"裁剪"掉，把 \(F\) 放大成新的样本空间(sample space)：在这个条件世界(conditional world)里，每个事件 \(E\) 变形为 \(E\) 与 \(F\) 的交 \(EF\)，而新概率恰为 \(P(E\,|\,F)\)。原世界与新世界之间的全部联系只是一次除以 \(P(F)\) 的归一化：比例不变，总量收缩为 1。特别地，\(F\) 自身在新世界中成为必然事件：\(P(F\,|\,F)=1\)。
条件概率 \(P(E\,|\,F)\) 中的 \(F\) 是"固定背景"，真正变化的自变量是 \(E\)。不要把 \(P(\cdot\,|\,F)\) 当作某种与 \(P\) 并列的新发明——它与原概率只隔一层换算 \(P(E\,|\,F)=P(EF)/P(F)\)。定理 1 的价值恰恰在于：换算之后，新函数仍被三条公理完整约束，于是第 2 章的全部 machinery 可以原封不动地开进条件世界。
3. 第 2 章定理的条件版
既然 \(P_F\) 通过了三条公理的检验，第 2 章里所有"仅从公理出发"证明的命题，把其中的 \(P\) 全部换成 \(P(\cdot\,|\,F)\) 后依然成立——而且证明可以逐字照抄，因为证明只用到公理。这是数学中"结构相同则结论相同"思想的典型体现。以下罗列最常用的几条。
设 \(P(F)>0\)，\(E,G,E_1,E_2,\ldots\) 为任意事件。下列结论在条件世界 \(F\) 中逐字成立：
- 补规则：\(P(E^c\,|\,F)=1-P(E\,|\,F)\)；特别地 \(P(\varnothing\,|\,F)=0\)，\(P(F\,|\,F)=1\)；
- 单调性：若 \(E\subseteq G\)，则 \(P(E\,|\,F)\le P(G\,|\,F)\)；
- 容斥原理(inclusion–exclusion principle)：\(P(E\cup G\,|\,F)=P(E\,|\,F)+P(G\,|\,F)-P(EG\,|\,F)\)，\(n\) 个事件的容斥同样成立；
- 布尔不等式(Boole's inequality)：\(P\big(\bigcup_{i=1}^{n}E_i\,\big|\,F\big)\le\sum_{i=1}^{n}P(E_i\,|\,F)\)；
- 概率的连续性(continuity of probability)：若 \(E_n\uparrow E\)，则 \(P(E_n\,|\,F)\uparrow P(E\,|\,F)\)；递减情形类似。
每一条的证明就是把第 2 章的相应证明中的 \(P(\cdot)\) 换成 \(P(\cdot\,|\,F)\)；由定理 1，证明所依赖的公理仍然全部成立。
从一副 52 张扑克牌中随机抽取一张。已知抽到的是红心（事件 \(F\)），求它不是人头牌（K、Q、J）的概率。
掷两颗骰子。记 \(E\) = "第一颗为 4"，\(G\) = "第二颗为 6"。这两事件独立，且 \(P(E\cup G)=\frac{1}{6}+\frac{1}{6}-\frac{1}{36}=\frac{11}{36}\)。现得知 \(F\) = "两颗点数之和为 10"，请在新的条件下重算 \(P(E\cup G\,|\,F)\)。
更精彩的是，3.3 节的两件利器——全概率公式与贝叶斯公式——也有条件版。在条件世界里，划分(partition) \(\{G_1,\ldots,G_n\}\) 自动换成 \(\{G_1F,\ldots,G_nF\}\)，公式形状完全不变。
设 \(\{G_1,\ldots,G_n\}\) 为 \(S\) 的划分，\(P(F)>0\)，且对各 \(j\) 有 \(P(G_jF)>0\)。则对任意事件 \(E\)： \[ P(E\,|\,F)=\sum_{j=1}^{n}P(E\,|\,G_jF)\,P(G_j\,|\,F),\qquad P(G_j\,|\,EF)=\frac{P(E\,|\,G_jF)\,P(G_j\,|\,F)}{\sum_{i=1}^{n}P(E\,|\,G_iF)\,P(G_i\,|\,F)}. \]
某保险公司把客户分为两类：谨慎型（\(C\)）占 \(60\%\)，鲁莽型（\(R\)）占 \(40\%\)；谨慎型每年出险的概率为 \(0.05\)，鲁莽型为 \(0.20\)，且给定客户类型后，各年是否出险相互独立（条件独立, conditional independence）。观察到某客户第一年已出险（记为 \(F\)）。(a) 求他是鲁莽型的概率；(b) 若第二年他又出险（记为 \(E\)），求他是鲁莽型的概率。
| 类型 \(G_j\) | 先验 \(P(G_j)\) | \(P(F\,|\,G_j)\) | 新先验 \(P(G_j\,|\,F)\) | \(P(E\,|\,G_jF)\) | 乘积 \(P(E\,|\,G_jF)P(G_j\,|\,F)\) |
|---|---|---|---|---|---|
| 谨慎型 \(C\) | 0.60 | 0.05 | \(3/11\approx 0.273\) | 0.05 | 0.0136 |
| 鲁莽型 \(R\) | 0.40 | 0.20 | \(8/11\approx 0.727\) | 0.20 | 0.1455 |
| 合计 | 1.00 | — | 1.000 | — | \(P(E\,|\,F)\approx 0.159\) |
例 3 的两步结构 \(P(G_j)\ \to\ P(G_j\,|\,F)\ \to\ P(G_j\,|\,EF)\) 正是贝叶斯统计中的序列更新(sequential updating)：每收到一条新信息，就搬进一个新的条件世界，旧的后验充当新世界的先验。贝叶斯推断与在线学习算法都建立在这条由定理 1 保驾护航的简单原理之上。唯一的技术要求：所条件的事件概率必须为正（\(P(F)>0\)，进而 \(P(EF)>0\)）。
4. 本节小结
- 固定 \(F\)（\(P(F)>0\)）、让 \(E\) 变动，\(P_F(E)=P(EF)/P(F)\) 逐条满足三条公理：非负性由 \(P(EF)\ge 0\)；规范性由 \(SF=F\)；可数可加性由 \(E_iF\) 两两互斥与分配律 \((\bigcup_i E_i)F=\bigcup_i E_iF\)——故 \(P(\cdot\,|\,F)\) 本身就是概率。
- 第 2 章的一切结论自动有条件版：补规则、单调性、容斥原理、布尔不等式、概率的连续性，证明逐字照抄即可。
- 条件版全概率与条件版贝叶斯：\(P(E\,|\,F)=\sum_j P(E\,|\,G_jF)P(G_j\,|\,F)\)，划分换成 \(G_jF\)。
- "条件世界"观点：\(F\) 之外概率为 0，\(F\) 是必然事件，归一化因子是 \(P(F)\)；旧后验可作新先验，实现序列更新。
- 独立性依赖于所在世界：条件化既可破坏独立（例 2），也可制造独立（练习 3）。下一章起，条件概率将成为定义条件分布与条件期望的核心工具。
练习
练习 3-5-1
数值验证公理 A3：掷两颗骰子，记 \(F\) = "点数之和为 8"。取 \(E_1\) = "恰好一颗为 2"，\(E_2\) = "两颗点数相同"，\(E_3\) = "其余情形"。(a) 写出条件世界 \(F\) 的全部样本点，验证 \(E_1,E_2,E_3\) 构成新世界的一个划分；(b) 用数值验证可数（此处为有限）可加性 \(P(E_1\cup E_2\cup E_3\,|\,F)=\sum_j P(E_j\,|\,F)\)。
答案与提示\(F=\{(2,6),(3,5),(4,4),(5,3),(6,2)\}\) 共 5 个等可能样本点。\(E_1=\{(2,6),(6,2)\}\)，\(E_2=\{(4,4)\}\)，\(E_3=\{(3,5),(5,3)\}\)，两两不交且并为 \(F\)。于是 \(P(E_1\,|\,F)=2/5\)，\(P(E_2\,|\,F)=1/5\)，\(P(E_3\,|\,F)=2/5\)，三项之和为 \(1=P(F\,|\,F)=P(E_1\cup E_2\cup E_3\,|\,F)\)。这正是定理 1 中 A3 的实例：\((E_1\cup E_2\cup E_3)F=F\)。
练习 3-5-2
用条件容斥计算 \(P(A\cup B\,|\,F)\)：掷两颗骰子，\(F\) = "第一颗为 3"，\(A\) = "点数之和 \(\ge 7\)"，\(B\) = "第二颗为偶数"。先用推论 1 的容斥原理计算 \(P(A\cup B\,|\,F)\)，再在条件世界中直接枚举验证。
答案与提示条件世界中第二颗骰子仍均匀。\(P(A\,|\,F)=P(\text{第二颗}\ge 4)=3/6\)，\(P(B\,|\,F)=3/6\)，\(AB\) 对应"第二颗为 4 或 6"，\(P(AB\,|\,F)=2/6\)。故 \(P(A\cup B\,|\,F)=\frac{3}{6}+\frac{3}{6}-\frac{2}{6}=\frac{2}{3}\)。直接枚举：第二颗 \(\in\{2,4,5,6\}\) 时 \(A\cup B\) 发生，\(4/6=2/3\)，一致。
练习 3-5-3
概念题：分别构造例子 (a) \(A,B\) 独立，但给定某事件 \(K\) 后不再独立；(b) \(A,B\) 不独立，但给定 \(K\) 后条件独立。据此说明为什么独立性不是事件的"内在属性"。
答案与提示(a) 掷两枚均匀硬币，\(A\)=第一枚正面，\(B\)=第二枚正面，\(P(AB)=\frac14=P(A)P(B)\) 独立；取 \(K\)="恰有一枚正面"，则 \(P(AB\,|\,K)=0\) 而 \(P(A\,|\,K)P(B\,|\,K)=\frac14\)——给定 \(K\) 后 \(A,B\) 甚至互斥。(b) 共因模型：机器状态好/坏各 \(\frac12\)；状态好时两零件各自以 \(0.9\) 的概率合格且独立，坏时各自 \(0.3\) 且独立。则 \(P(A)=P(B)=0.6\)，\(P(AB)=\frac12(0.81)+\frac12(0.09)=0.45\ne 0.36\)，不独立；但给定机器状态后两零件条件独立（条件化"吸收"了共同原因）。结论：独立性相对于当前的概率测度（可能是某个条件概率测度）而言，进入新世界后必须重新检验。