3.2　条件概率 — 概率论基础教程

学习目标

用定义式 \(P(E \mid F)=P(EF)/P(F)\) 计算条件概率，并用文氏图的"面积比"解释其含义；
验证 \(P(\cdot \mid F)\) 满足概率的三条公理，从而说明第 2 章的全部结论在"条件世界"中照搬成立；
辨析 \(P(E \mid F)\) 与 \(P(E)\) 的三种大小关系，以及 \(P(E \mid F)\) 与 \(P(F \mid E)\) 的区别；
熟练运用乘法规则及其一般形式（逐步条件链）计算交事件的概率；
通过"两个孩子问题"体会：条件的措辞如何决定样本空间被缩减成什么样子。

1. 引入：新信息如何改变概率

3.1 节的骰子例子已经表明：一旦得知"掷出的是偶数"，"点数至少为 4"的概率便从 \(1/2\) 上升到 \(2/3\)——新信息会修正我们对不确定性的度量。本节把这一直觉形式化：在"事件 \(F\) 已发生"的前提下，事件 \(E\) 的概率应当如何定义？它有哪些良好的性质？由它又能导出哪些计算工具？回答这些问题的概念——条件概率(conditional probability)——是概率论中最重要的概念，此后各章几乎处处都要用到它。

2. 条件概率的定义与文氏图解释

设试验的样本空间(sample space)为 \(S\)，\(E\)、\(F\) 为两个事件，事件运算（交、并、补）的记号见 2.2 节。我们面对的情境是：已经得知 \(F\) 发生，在此前提下问 \(E\) 发生的可能性。由于 \(F\) 已发生，所有不落在 \(F\) 里的结果都被排除，我们实际上是在一个缩小了的样本空间 \(F\) 上工作。下面的定义对任何试验（不必等可能）都适用。

定义 1　条件概率

设 \(E\)、\(F\) 为两个事件且 \(P(F)>0\)。称 \[ P(E \mid F) \;=\; \frac{P(EF)}{P(F)} \] 为在 \(F\) 已发生的条件下 \(E\) 发生的条件概率。

分子 \(P(EF)\) 是"\(E\) 与 \(F\) 同时发生"的无条件概率；除以 \(P(F)\) 相当于把公共部分按 \(F\) 的概率重新归一化。若样本空间等可能，则 \(P(E \mid F)=|EF|\,/\,|F|\)（样本点数之比），这正是 3.1 节"缩小样本空间再数点"做法的一般公式化。该定义也与频率直觉一致：将试验重复 \(n\) 次，\(F\) 发生的约占比 \(P(F)\)，而在 \(F\) 发生的那些次中 \(E\) 又发生的比例约为 \(P(EF)/P(F)\)。

这个定义有一个极为直观的几何形象。把样本空间想象成一块面积为 \(1\) 的平面区域，每个事件的概率就等于它的面积（第 2 章 2.6 节的几何概率正是如此）。已知 \(F\) 发生后，\(F\) 以外的区域被"裁掉"，\(F\) 成为新的整体；此时问 \(E\) 的概率，就是问 \(E\) 在 \(F\) 中的部分——即交 \(EF\)——占 \(F\) 的面积比例。

图 1：条件概率的文氏图(Venn diagram)解释。事件 \(F\) 把样本空间裁剪成一块新的"整体"，\(P(E \mid F)\) 就是交 \(EF\) 在这块新整体中所占的面积比例；右图即左图中 \(F\) 圈的放大。

例 1　掷两颗骰子（书例）

掷两颗均匀骰子，已知第一颗掷出 4 点，求两颗骰子点数之和为 10 的概率。

解令 \(F=\{\text{第一颗为 }4\}\)，\(E=\{\text{点数和为 }10\}\)。样本空间共 \(36\) 个等可能结果，\(F\) 含 \(6\) 个，\(EF\) 只含 \((4,6)\) 一个，故 \[ P(E \mid F)=\frac{P(EF)}{P(F)}=\frac{1/36}{6/36}=\frac{1}{6}. \] 直观验证：第一颗既已知为 4，只须第二颗为 6，而第二颗取 \(1,\dots,6\) 等可能，故概率 \(1/6\)。注意 \(P(E)=3/36=1/12\)——"第一颗是 4"这条信息让概率翻了一倍。

注记　\(P(E \mid F)\) 与 \(P(F \mid E)\) 不容混淆

条件与结论对调，结果一般完全不同：\(P(F \mid E)=P(EF)/P(E)\)，分母换成了 \(P(E)\)。例如某项医学检测"患病者呈阳性"的比例可以高达 \(0.9\)，但"阳性者真患病"的比例却可能很低——混淆这两个方向是现实中最常见的推理错误之一。系统地在两个方向之间换算，正是 3.3 节贝叶斯公式的任务。

3. 条件概率本身也是概率

定义 1 中的 \(P(\cdot \mid F)\) 并非一个临时记号：固定条件 \(F\) 之后，它作为 \(E\) 的函数，满足第 2 章（2.3 节）概率的全部三条公理。

定理 1　\(P(\cdot \mid F)\) 满足概率公理

固定事件 \(F\)，设 \(P(F)>0\)。则：(1) 对任意事件 \(E\)，\(P(E \mid F)\ge 0\)；(2) \(P(S \mid F)=1\)；(3) 若 \(E_1,E_2,\ldots\) 两两互斥(mutually exclusive)，则 \(P\!\left(\bigcup_{i=1}^{\infty}E_i \,\middle|\, F\right)=\sum_{i=1}^{\infty}P(E_i \mid F)\)。

证明逐条验证。(1) 由公理，\(P(EF)\ge 0\)，除以正数 \(P(F)\) 仍非负。(2) 因 \(SF=F\)，故 \(P(S \mid F)=P(F)/P(F)=1\)。(3) \(E_i\) 两两互斥时，\(E_iF\) 也两两互斥，由可列可加公理 \(P\!\left(\bigcup_i E_iF\right)=\sum_i P(E_iF)\)；注意 \(\bigcup_i E_iF=\left(\bigcup_i E_i\right)F\)，两边除以 \(P(F)\) 即得结论。

于是，"知道 \(F\) 已发生"之后，我们进入了以 \(F\) 为全空间的一个新概率世界：第 2 章建立的一切结论——补事件公式、容斥原理、布尔不等式、概率的连续性——在条件世界中原样成立。3.5 节将详细展开这一观点，并给出条件版的全部公式。

既然是一个新的概率，\(P(E \mid F)\) 与原来的 \(P(E)\) 就没有固定的大小关系：新信息可能让 \(E\) 更可能、不变、或更不可能。下表用掷两颗骰子的三个事件展示全部三种情形。

表 1：\(P(E \mid F)\) 与 \(P(E)\) 的三种大小关系（掷两颗骰子，\(F\) 均为"第一颗为 4"）
关系	事件 \(E\)	\(P(E)\)	\(P(E \mid F)\)
增大	点数和为 10	\(3/36=1/12\approx 0.083\)	\(1/6\approx 0.167\)
不变	第二颗为 6	\(6/36=1/6\approx 0.167\)	\(1/6\approx 0.167\)
减小	点数和不超过 5	\(10/36=5/18\approx 0.278\)	\(1/6\approx 0.167\)

中间一行颇为耐人寻味：第一颗的结果完全不影响第二颗，此时"\(F\) 的发生不改变 \(E\) 的概率"。这一情形——独立(independent)——将是 3.4 节的主题。

4. 乘法规则与逐步条件链

把定义 1 的等式两边同乘 \(P(F)\)，就得到概率计算中使用频率最高的公式之一。

定理 2　乘法规则

设 \(P(F)>0\)，则 \(P(EF)=P(F)\,P(E \mid F)\)；对称地，若 \(P(E)>0\)，则 \(P(EF)=P(E)\,P(F \mid E)\)。

证明将 \(P(E \mid F)=P(EF)/P(F)\) 两边同乘 \(P(F)\) 即得第一式；交换 \(E\)、\(F\) 的角色得第二式。另外，两式右端相等，给出恒等式 \(P(E)\,P(F \mid E)=P(F)\,P(E \mid F)\)，它正是 3.3 节贝叶斯公式的出发点。

乘法规则(multiplication rule)的威力在于：把"同时发生"拆成"一步一步发生"。"一次抽两张牌"可以拆成"先抽一张、再抽一张"；每一步的条件概率往往一目了然，于是交事件的概率便可以逐步相乘。这一思想推广到 \(n\) 个事件，就是一般形式的乘法规则，也称逐步条件链(chain rule)。

定理 3　乘法规则的一般形式（逐步条件链）

设 \(E_1,E_2,\ldots,E_n\) 为事件且 \(P(E_1E_2\cdots E_{n-1})>0\)，则 \[ P(E_1E_2\cdots E_n)=P(E_1)\,P(E_2 \mid E_1)\,P(E_3 \mid E_1E_2)\cdots P(E_n \mid E_1E_2\cdots E_{n-1}). \] 即：\(n\) 个事件同时发生的概率，等于第一个事件的概率，乘以"在它发生条件下第二个发生"的条件概率，再乘以"在前两个都发生条件下第三个发生"的条件概率，依次类推。

证明对 \(n\) 用数学归纳法。\(n=2\) 时即定理 2。设结论对 \(n-1\) 成立。记 \(G=E_1E_2\cdots E_{n-1}\)，由题设 \(P(G)>0\)，故 \(P(E_n \mid G)\) 有意义；对两事件 \(G\) 与 \(E_n\) 用定理 2 得 \(P(GE_n)=P(G)\,P(E_n \mid G)\)，再将 \(P(G)\) 按归纳假设展开，即得所要的等式。

例 2　两张 A

从一副洗好的 52 张扑克牌中无放回地抽取两张，求两张都是 A 的概率。

解令 \(E_1=\{\text{第一张是 A}\}\)，\(E_2=\{\text{第二张是 A}\}\)。由乘法规则， \[ P(E_1E_2)=P(E_1)\,P(E_2 \mid E_1)=\frac{4}{52}\cdot\frac{3}{51}=\frac{12}{2652}=\frac{1}{221}\approx 0.0045. \] 已知第一张取走一张 A 后，牌堆剩 51 张、其中只有 3 张 A，第二个因子正是这个"新世界"里的概率。

例 3　7 黑 3 白的罐子（书例）

一只罐中装有 7 个黑球、3 个白球。无放回地依次取出 3 个球，求"前两球皆黑、第三球为白"的概率。

解令 \(E_i\) 表示"第 \(i\) 次取到黑球"（\(i=1,2\)），\(E_3\) 表示"第 3 次取到白球"。逐步计算：第一次黑球 \(7/10\)；在此条件下罐中剩 9 球（6 黑 3 白），第二次黑球 \(6/9\)；再条件下剩 8 球（5 黑 3 白），第三次白球 \(3/8\)。由定理 3， \[ P(E_1E_2E_3)=\frac{7}{10}\cdot\frac{6}{9}\cdot\frac{3}{8}=\frac{126}{720}=\frac{7}{40}=0.175. \] 图 2 的树形图画出了全部八条路径：每个叶子是一个具体的颜色序列，其概率等于路径上各条件概率之乘积，且八个叶子的乘积之和恰为 \(1\)。

图 2：例 3 的三步条件链树形图。每条从根到叶的路径上各条件概率之积，就是该叶子（一个具体颜色序列）的概率；红色高亮路径对应事件"黑、黑、白"，概率为 \(\frac{7}{10}\cdot\frac{6}{9}\cdot\frac{3}{8}=\frac{7}{40}=0.175\)。

例 4　翻牌的顺序（书例）

把一副洗好的 52 张牌面朝下放好，依次翻开前 3 张。求前三张恰好按"黑桃、红心、方块"的顺序出现的概率。

解令 \(E_1=\{\text{第 1 张黑桃}\}\)，\(E_2=\{\text{第 2 张红心}\}\)，\(E_3=\{\text{第 3 张方块}\}\)。第一步黑桃有 \(13\) 张可选：\(P(E_1)=13/52\)；已知第一张是黑桃后，剩 51 张含全部 13 张红心：\(P(E_2 \mid E_1)=13/51\)；再已知前两张的花色后，剩 50 张含全部 13 张方块：\(P(E_3 \mid E_1E_2)=13/50\)。由定理 3， \[ P(E_1E_2E_3)=\frac{13}{52}\cdot\frac{13}{51}\cdot\frac{13}{50}=\frac{2197}{132600}=\frac{169}{10200}\approx 0.0166. \] 注意这里求的是"按指定顺序"的概率；若只问前 3 张包含这三种花色（顺序不限），答案还要乘以 \(3!=6\)。

5. 条件的措辞：两个孩子问题

条件概率的解题关键，是弄清条件究竟排除了哪些样本点。下面的经典问题说明：看似相同的"已知有女孩"，措辞不同，答案可以不同。

例 5　两个孩子问题（书例）

某家庭有两个孩子，假定生男生女各以 \(1/2\) 等可能。已知两个孩子中至少有一个是女孩，求两个都是女孩的概率。

解按（老大，老二）记录性别，样本空间为 \[ S=\{BB,\;BG,\;GB,\;GG\},\qquad \text{各以 } 1/4 \text{ 等可能}. \] 令 \(F=\{\text{至少一个女孩}\}=\{BG,GB,GG\}\)，\(P(F)=3/4\)；令 \(E=\{\text{两个都是女孩}\}=\{GG\}\)，则 \(EF=\{GG\}\)，\(P(EF)=1/4\)。于是 \[ P(E \mid F)=\frac{P(EF)}{P(F)}=\frac{1/4}{3/4}=\frac{1}{3}. \] 换个角度看："至少一个女孩"这条信息只排除了 \(BB\) 一个样本点，剩下三个仍等可能，其中只有 \(GG\) 一个满足要求，故 \(1/3\)。直觉的 \(1/2\) 之所以错，是因为误把"一个孩子指定为女孩之后另一个是女"的情形当成了全部。

注记　一条信息，力量几何

把条件换成"老大是女孩"，缩减后的样本空间变为 \(\{GB,GG\}\)，所求概率就成了 \(1/2\)（见练习 3）。"指定某个孩子是女孩"（概率 \(1/2\) 的事件）比"至少一个是女孩"（概率 \(3/4\) 的事件）更难得，因而携带的信息更多，对概率的修正也更大。这就是著名的"两个孩子问题"(two-child problem)：判断一条新信息具体排除了哪些可能性，永远是条件概率解题的第一步；把这类"由信息反推原因"的推理系统化，就是下一节的贝叶斯公式。

6. 本节小结

要点回顾

条件概率定义：\(P(E \mid F)=P(EF)/P(F)\)（要求 \(P(F)>0\)）；文氏图上即"面积比"——\(F\) 成为新的整体，\(EF\) 占 \(F\) 的比例。
\(P(\cdot \mid F)\) 满足概率三条公理，因此是货真价实的概率；第 2 章全部结论在条件世界中成立（详见 3.5 节）。
\(P(E \mid F)\) 与 \(P(E)\) 相比可增大、相等或减小；恰好相等即预示独立性（3.4 节）。另须谨防 \(P(E \mid F)\) 与 \(P(F \mid E)\) 的混淆。
乘法规则：\(P(EF)=P(F)P(E \mid F)\)；一般式把 \(n\) 个事件的同时发生拆成逐步条件链依次相乘（例 2、例 3、例 4）。
条件措辞决定样本空间的缩减方式："至少一个女孩"给 \(1/3\)，"老大是女孩"给 \(1/2\)。

练习

练习 3-2-1

掷两颗均匀骰子，已知点数之和为偶数，求两颗点数都至少为 3 的概率。

答案与提示

和为偶数当且仅当两颗同奇偶，共 \(3\times 3+3\times 3=18\) 个结果，\(P(F)=18/36\)。在此范围内"两颗都 \(\ge 3\) 且同奇偶"＝两颗都属 \(\{3,5\}\) 或都属 \(\{4,6\}\)，共 \(2\times 2+2\times 2=8\) 个。故 \(P(E \mid F)=8/18=4/9\)。

练习 3-2-2

仍用例 3 的罐子（7 黑 3 白），无放回地连抽 4 球，求 4 球全为黑球的概率。

答案与提示

逐步条件链相乘： \[ \frac{7}{10}\cdot\frac{6}{9}\cdot\frac{5}{8}\cdot\frac{4}{7}=\frac{840}{5040}=\frac{1}{6}. \] 可用组合数验证：\(\binom{7}{4}\big/\binom{10}{4}=35/210=1/6\)。

练习 3-2-3

两个孩子问题的变体：仍设生男生女等可能，若已知老大是女孩，求两个都是女孩的概率，并与例 5 的结果比较。

答案与提示

条件"\({老大是女孩}\)"把样本空间缩减为 \(\{GB,GG\}\)（各 \(1/2\) 等可能），其中 \(GG\) 占一个，故概率为 \(1/2\)，大于例 5 的 \(1/3\)。原因："老大是女孩"是概率 \(1/2\) 的事件，比概率 \(3/4\) 的"至少一个女孩"更强、信息更多；前者只留下 2 个样本点，后者留下 3 个。两条信息措辞相近，缩减样本空间的方式却不同。