第 11 章 · 条件期望与鞅

11.6 分枝过程与鞅方法

Branching Processes
分枝过程把逐代繁殖写成随机数量的独立和。本节从后代母函数推导整代人数的分布,证明灭绝概率是最小不动点,并说明临界分类的退化例外。随后构造归一化鞅,完整计算方差递推,证明超临界有限方差情形的均方收敛及其与存活的关系。临界算例将展示几乎必然收敛为何不能自动交换期望。

分枝过程研究一个群体怎样逐代产生后代。这里的“灭绝”指某一有限代人数变为零,此后一直为零。本节结合条件期望鞅与非负鞅收敛,区分三个问题:群体最终是否存活、平均人数如何变化、归一化人数是否保留原来的均值。

11.6.1 Galton–Watson 过程的构造

定义 11.6.1 · 独立同分布的繁殖机制

设 \(\{\xi_{n,i}:n,i\ge1\}\) 是独立同分布的非负整数值随机变量,\(p_k=P(\xi_{n,i}=k)\)。从一个祖先出发,定义 Galton–Watson 分枝过程:

\[Z_0=1,\qquad Z_{n+1}=\sum_{i=1}^{Z_n}\xi_{n+1,i},\qquad n\ge0.\]
(11.6-1)

空和规定为零。\(Z_n\) 是第 \(n\) 代人数,\(\xi_{n+1,i}\) 是其中第 \(i\) 个个体的后代数。每个后代数有限,所以归纳可知各有限代人数都有限;不同个体、不同代的繁殖随机性均独立。

取 \(\mathcal F_0=\{\varnothing,\Omega\}\)、\(\mathcal F_n=\sigma(\xi_{r,i}:1\le r\le n,\ i\ge1)\)。于是 \(Z_n\) 适应,第 \(n+1\) 行繁殖变量独立于 \(\mathcal F_n\)。本节假设后代均值 \(m=E\xi<\infty\),讨论二阶矩时再加 \(\sigma^2=\operatorname{Var}(\xi)<\infty\)。若 \(m=0\),则 \(\xi=0\) 几乎必然,第一代便灭绝;这种情形不定义 \(Z_n/m^n\)。

分枝性质(branching property)是后续推导的依据:给定某代有 \(z\) 个个体,这些个体的后代族群是相互独立、各自从一个祖先开始的同分布副本。原因是每个个体只使用自身及其后代的独立繁殖变量,且这些变量具有同一分布。

11.6.2 母函数迭代与最小不动点

后代分布的概率母函数(probability generating function)以及第 \(n\) 代的母函数分别为

\[f(s)=E[s^\xi]=\sum_{k=0}^{\infty}p_ks^k,\qquad F_n(s)=E[s^{Z_n}],\qquad 0\le s\le1.\]
(11.6-2)

约定 \(0^0=1\),所以 \(F_n(0)=P(Z_n=0)\),而 \(F_0(s)=s\)。在事件 \(\{Z_n=z\}\) 上,下一代是 \(z\) 个独立后代数之和,故由乘积的期望公式,

\[E[s^{Z_{n+1}}\mid\mathcal F_n] =\prod_{i=1}^{Z_n}E[s^{\xi_{n+1,i}}] =f(s)^{Z_n}.\]
(11.6-3)

当 \(Z_n=0\) 时,空乘积为一,这与左边一致。再取期望并归纳:

\[F_{n+1}(s)=F_n(f(s)),\qquad F_n=f^{\circ n},\qquad F_{n+1}=f\circ F_n.\]
(11.6-4)

\(f^{\circ n}\) 表示复合 \(n\) 次,不是 \(f(s)^n\)。各代人数通常相互依赖;这里的乘法来自同一代各个个体的条件独立繁殖。

定理 11.6.1 · 灭绝概率的最小不动点刻画

令 \(\mathcal E=\bigcup_{n\ge0}\{Z_n=0\}\),\(q=P(\mathcal E)\)。则 \(q\) 是方程 \(f(s)=s\) 在 \([0,1]\) 内的最小解。它可以从零开始迭代得到:

\[q_0=0,\qquad q_{n+1}=f(q_n),\qquad q_n=P(Z_n=0)\uparrow q.\]
(11.6-5)

证明。零是吸收状态,因此事件 \(\{Z_n=0\}\) 递增。概率测度的下连续性给出 \(q_n\uparrow P(\mathcal E)\)。母函数迭代给出递推关系,而 \(f\) 在 \([0,1]\) 上连续:若 \(s_j\to s\),则 \(s_j^\xi\to s^\xi\),且绝对值不超过一,可用控制收敛定理。因此取极限得 \(q=f(q)\)。

现在取任意不动点 \(r\in[0,1]\)。从 \(q_0=0\le r\) 开始,利用 \(f\) 单调不减,若 \(q_n\le r\),则 \(q_{n+1}=f(q_n)\le f(r)=r\)。归纳并取极限得 \(q\le r\)。这一步说明为什么不能只解出方程就任意挑选一个根;\(1\) 总是根,却未必是灭绝概率。

11.6.3 临界分类及其退化例外

母函数在 \([0,1)\) 内可以逐项求导,且单调收敛给出 \(f'(1-)=\sum_{k\ge1}kp_k=m\)。它是凸函数;当 \(P(\xi\ge2)>0\) 时严格凸。

定理 11.6.2 · 按后代均值分类

若 \(p_1<1\),则次临界(subcritical,\(m<1\))和临界(critical,\(m=1\))过程都满足 \(q=1\);超临界(supercritical,\(m>1\))过程满足 \(q<1\),且 \(q\) 是 \([0,1)\) 内唯一不动点。超临界情形下 \(q=0\) 当且仅当 \(p_0=0\)。

证明。由 \(s^k\ge1-k(1-s)\)(\(k\) 为非负整数,\(0\le s\le1\)),取期望得到

\[f(s)-s\ge(1-m)(1-s).\]
(11.6-6)

当 \(m<1\) 时,右边在 \(s<1\) 处严格为正,故只能有根 \(1\)。当 \(m=1\)、\(p_1<1\) 时,必有 \(P(\xi\ge2)>0\);对这些 \(k\),上述幂函数不等式在 \(s<1\) 处严格成立,因此仍有 \(f(s)>s\)。

当 \(m>1\) 时,\(f(1-h)=1-mh+o(h)<1-h\) 对充分小的 \(h>0\) 成立,而 \(f(0)\ge0\)。连续性保证在 \([0,1)\) 中存在一个根。此时 \(P(\xi\ge2)>0\),所以 \(f(s)-s\) 严格凸,不可能有三个不同的零点:中间零点应严格低于两端零点的连线。由于 \(1\) 已是根,另一个根唯一。最后,\(f(0)=p_0\),故零为不动点恰当且仅当 \(p_0=0\)。

必须保留的例外

若 \(p_1=1\),则每个个体恒有一个后代,\(Z_n=1\)、\(m=1\)、\(q=0\)。此时 \(f(s)=s\),整个区间都是不动点,最小根仍为零。因此“临界必灭绝”必须排除这一退化分布。超临界也不等于必然存活:只有 \(p_0=0\) 时,灭绝概率才为零。

从零迭代二叉后代母函数得到最小不动点 后代数以四分之一概率为零、四分之三概率为二。母函数曲线与对角线交于三分之一和一。橙色阶梯从零出发向三分之一递增,右侧列出前几次的计算值。 0 1 1 1/3 s 母函数曲线与对角线 最小不动点 从零开始反复代入母函数 初值:0 第 1 次:0.250000 第 2 次:0.296875 第 3 次:约 0.316101 递增趋向 1/3,而不是 1
图 11.6-1 \(f(s)=1/4+3s^2/4\) 的准确函数图与前四次迭代阶梯。每次先竖直到曲线,再水平到对角线,对应 \(q_{n+1}=f(q_n)\)。两轴范围均为 \([0,1]\),函数交点为 \(q=1/3\) 与 \(1\);选根依据是从零出发的迭代。
例 11.6.1 · 会灭绝的超临界二叉过程

设 \(p_0=1/4,\ p_2=3/4\)。则 \(m=3/2>1\),但解 \(f(s)=s\) 得 \((3s-1)(s-1)=0\),最小根为 \(q=1/3\),最终存活概率为 \(2/3\)。迭代计算 \(q_1=1/4\)、\(q_2=1/4+(3/4)(1/4)^2=19/64\)。所以第二代尚未灭绝的概率是 \(45/64\),大于最终存活概率。

后代二阶矩为 \(E\xi^2=3\),方差为 \(\sigma^2=3-(3/2)^2=3/4\)。这组参数稍后会给出可显式计算的均方收敛速度。均值 \(m>1\) 保证的是存活具有正概率,不能排除早期连续产生零后代。

11.6.4 归一化鞅与方差递推

现在假设 \(0<m<\infty\)。在 \(\{Z_n=z\}\) 上对独立和取条件期望,得到

\[E[Z_{n+1}\mid\mathcal F_n]=mZ_n,\qquad EZ_n=m^n,\qquad W_n=\frac{Z_n}{m^n},\qquad E[W_{n+1}\mid\mathcal F_n]=W_n.\]
(11.6-7)

期望公式由 \(EZ_0=1\) 归纳得到,同时保证逐时可积。故 \(W_n\) 是均值恒为一的非负归一化鞅(normalized martingale)。由非负鞅收敛定理,存在有限随机变量 \(W\ge0\),使 \(W_n\to W\) 几乎必然;Fatou 引理目前只能保证 \(EW\le1\),还不能写成等号。

再假设 \(\sigma^2<\infty\),令 \(v_n=\operatorname{Var}(Z_n)\)。先对给定人数的独立和计算,再应用全方差公式:

\[\operatorname{Var}(Z_{n+1}\mid\mathcal F_n)=\sigma^2Z_n,\qquad v_{n+1}=\sigma^2m^n+m^2v_n,\qquad v_0=0.\]
(11.6-8)

这个递推也逐步证明 \(Z_n\in L^2\)。从 \(n=0\) 起求和可得,当 \(n\ge1\) 时,

\[v_n=\sigma^2\sum_{j=0}^{n-1}m^{2(n-1-j)}m^j =\begin{cases} \displaystyle \sigma^2m^{n-1}\frac{m^n-1}{m-1},&m\ne1,\\ n\sigma^2,&m=1. \end{cases}\]
(11.6-9)

分母 \(m-1\) 在次临界时为负,分子 \(m^n-1\) 也为负,所得方差仍非负。临界值必须单独写出,不能直接把 \(m=1\) 代入有零分母的表达式。

11.6.5 超临界有限方差:均方极限与存活

定理 11.6.3 · 有限方差下的归一化极限

若 \(1<m<\infty\)、\(\sigma^2<\infty\),则 \(W_n\to W\) 几乎必然且在 \(L^2\) 中收敛,并有

\[EW=1,\qquad \operatorname{Var}(W)=\frac{\sigma^2}{m(m-1)},\qquad E[(W-W_n)^2]=\frac{\sigma^2}{m(m-1)}m^{-n}.\]
(11.6-10)

此外 \(P(W=0)=q\),且事件 \(\{W=0\}\) 与灭绝事件 \(\mathcal E\) 只相差零概率集合。因此在存活事件上,\(Z_n/m^n\) 收敛到严格正的随机变量。

第一步:完整证明 \(L^2\) 收敛。由上一节的二阶矩递推,\(W_n\in L^2\)。记 \(D_{j+1}=W_{j+1}-W_j\),对其条件平方均值计算得

\[E[D_{j+1}^2\mid\mathcal F_j] =\frac{\sigma^2Z_j}{m^{2j+2}},\qquad ED_{j+1}^2=\frac{\sigma^2}{m^{j+2}}.\]
(11.6-11)

不同的鞅增量正交:若 \(i<j\),则 \(D_{i+1}\) 是 \(\mathcal F_j\) 可测的,且两个增量的乘积可积,故 \(E[D_{i+1}D_{j+1}]=E[D_{i+1}E(D_{j+1}\mid\mathcal F_j)]=0\)。所以对 \(N>n\),

\[E[(W_N-W_n)^2] =\sum_{j=n}^{N-1}\frac{\sigma^2}{m^{j+2}} =\frac{\sigma^2}{m(m-1)}(m^{-n}-m^{-N}).\]
(11.6-12)

已经知道 \(W_N\to W\) 几乎必然。固定 \(n\),对左边使用 Fatou 引理,得到 \(E[(W-W_n)^2]\le \sigma^2m^{-n}/[m(m-1)]\)。右边趋于零,因此直接得到 \(L^2\) 收敛,也得到 \(L^1\) 收敛和 \(EW=\lim EW_n=1\)。再由 \(L^2\) 范数连续性,令上式 \(N\to\infty\),便得定理中的精确均方误差;取 \(n=0\)、\(W_0=1\),即得极限方差。

第二步:识别极限为零的事件。由分枝性质,第一代的 \(\xi=Z_1\) 个后代各自建立独立同分布族群。设其归一化过程为 \(W_n^{(i)}\),则

\[W_{n+1}=\frac1m\sum_{i=1}^{\xi}W_n^{(i)} \quad\Longrightarrow\quad W=\frac1m\sum_{i=1}^{\xi}W^{(i)}.\]
(11.6-13)

这里的 \(W^{(i)}\) 相互独立、与 \(\xi\) 独立,且均与 \(W\) 同分布;在族群树的构造中上式逐样本成立。取极限合法,因为 \(\xi\) 有限几乎必然,每次只需对有限个收敛的族群求和。记 \(r=P(W=0)\),利用各项非负,

\[r=\sum_{k=0}^{\infty}p_kP(W^{(1)}=\cdots=W^{(k)}=0) =\sum_{k=0}^{\infty}p_kr^k=f(r).\]
(11.6-14)

由于 \(EW=1\),有 \(r<1\)。由超临界不动点的唯一性,\(r=q\)。在灭绝事件上 \(W_n\) 最终恒为零,故 \(\mathcal E\subseteq\{W=0\}\);两个事件概率相同,便得到几乎必然意义下的事件相等。

代入例 11.6.1 的 \(m=3/2,\ \sigma^2=3/4\),可得 \(\operatorname{Var}(W)=1\),\(\operatorname{Var}(W_n)=1-(2/3)^n\),而均方误差是 \((2/3)^n\)。第六代的均方误差为 \(64/729\),约 \(0.0878\)。归一化人数的方差趋于一,同时它与随机极限的距离趋于零;这两种变化并不矛盾。

归一化人数的方差与其均方误差 对应均值一点五、后代方差零点七五的二叉分枝过程。紫色曲线为一减三分之二的n次方,从零递增到一;橙色曲线为三分之二的n次方,从一递减到零。点是n从零到八的公式计算结果。 归一化人数的方差 距极限的均方误差 1 0.5 0 0 1 2 3 4 5 6 7 8 代数 n
图 11.6-2 后代分布 \(p_0=1/4,\ p_2=3/4\) 下的精确离散时刻计算。紫色为 \(\operatorname{Var}(W_n)=1-(2/3)^n\),橙色为 \(E[(W-W_n)^2]=(2/3)^n\),两者之和恒为一。连线只辅助阅读,不代表连续时间模型,也不是模拟样本。

11.6.6 几乎必然收敛不保证极限均值

例 11.6.2 · 临界二叉过程的均值为何不能交换

改取 \(p_0=p_2=1/2\)。这时 \(m=1,\ \sigma^2=1\),母函数为 \(f(s)=(1+s^2)/2\)。不动点方程等价于 \((s-1)^2=0\),所以 \(q=1\):几乎每个族群在某一有限代灭绝,\(W_n=Z_n\to0\) 几乎必然。

第二代的分布可以直接计算:第一代为零的概率是 \(1/2\);第一代为二时,两个个体各自以相等概率产生零或二个后代。因此

\[P(Z_2=0)=\frac58,\qquad P(Z_2=2)=\frac14,\qquad P(Z_2=4)=\frac18.\]
(11.6-15)

于是 \(EZ_2=2(1/4)+4(1/8)=1\),\(EZ_2^2=3\),方差为二,符合 \(v_n=n\)。更一般地,每个 \(EW_n=1\),极限却满足 \(EW=0\)。

这里缺少一致可积性。对任意固定 \(K>0\),

\[E[Z_n1_{\{Z_n>K\}}] =1-E[Z_n1_{\{Z_n\le K\}}] \ge1-KP(Z_n>0)\longrightarrow1.\]
(11.6-16)

左端同时不超过 \(EZ_n=1\),因此尾部期望确实趋于一。不论先把阈值 \(K\) 取多大,都有足够大的代数使尾部期望接近一。由此直接验证 \((Z_n)\) 不一致可积,而不只是引用一个失败的极限等式。

结论使用的条件

只要 \(0<m<\infty\),非负鞅方法保证 \(W_n\to W\) 几乎必然及 \(EW\le1\)。本节把结论加强为 \(L^2\) 收敛、\(EW=1\) 和 \(P(W=0)=q\) 时,使用了超临界与后代有限方差。不能把这一证明直接用于只有一阶矩的超临界分布;有限方差之外的极限分类不在本节展开。

11.6.7 习题与完整解答

习题 11.6-1 · 从多个祖先出发

题目。若 \(Z_0=z\ge1\) 为确定整数,求第 \(n\) 代母函数、灭绝概率、均值与方差。另求例 11.6.1 从三个祖先出发的灭绝概率。

解答。由分枝性质,可写 \(Z_n=\sum_{i=1}^z Z_n^{(i)}\),各项是从单个祖先出发的独立副本。故母函数为 \([F_n(s)]^z=[f^{\circ n}(s)]^z\)。整个群体灭绝等价于这 \(z\) 个族群全部灭绝:每个族群的灭绝时刻有限,而有限个时刻的最大值仍有限。因此灭绝概率为 \(q^z\)。

若 \(m=0\),各 \(n\ge1\) 代人数恒为零。若 \(m>0\),独立和的期望与方差给出 \(EZ_n=zm^n\)、\(\operatorname{Var}(Z_n)=zv_n\),其中 \(v_n\) 是正文的单祖先方差,方差公式要求 \(\sigma^2<\infty\)。归一化鞅的均值变为 \(z\),不能仍写一。例 11.6.1 的答案是 \((1/3)^3=1/27\)。

习题 11.6-2 · 几何后代分布的灭绝与极限方差

题目。设 \(P(\xi=k)=p(1-p)^k\),\(k\ge0,\ 0<p<1\)。求 \(f,m,\sigma^2,q\)。当 \(p=1/3\) 时,求 \(P(Z_2=0)\)、\(EW\) 与 \(\operatorname{Var}(W)\)。

解答。对几何级数求和得 \(f(s)=p/[1-(1-p)s]\)。由 \(m=f'(1)\)、\(\sigma^2=f''(1)+f'(1)-f'(1)^2\),得到

\[m=\frac{1-p}{p},\qquad \sigma^2=\frac{1-p}{p^2},\qquad f(s)=s\ \Longleftrightarrow\ (s-1)((1-p)s-p)=0.\]
(11.6-17)

若 \(p\ge1/2\),则 \(m\le1\),且 \(p_1=p(1-p)<1\),故 \(q=1\)。若 \(p<1/2\),则较小的根为 \(q=p/(1-p)\)。取 \(p=1/3\),有 \(m=2,\sigma^2=6,q=1/2\)。第二代灭绝概率为 \(f(f(0))=f(1/3)=3/7\)。由于超临界且方差有限,定理给出 \(EW=1\)、\(\operatorname{Var}(W)=6/[2(2-1)]=3\),以及 \(P(W=0)=1/2\)。

习题 11.6-3 · 灭绝概率自身构成的闭合鞅

题目。假设 \(0<q<1\)。证明 \(q^{Z_n}=P(\mathcal E\mid\mathcal F_n)\),并由此说明它是有界鞅。再用母函数独立验证其一步条件期望。

解答。给定 \(\mathcal F_n\),若 \(Z_n=z\),未来是 \(z\) 个独立族群。它们全灭绝的条件概率为 \(q^z\);对 \(z=0\),该值为一。故 \(q^{Z_n}=E[1_{\mathcal E}\mid\mathcal F_n]\),这是由可积终值 \(1_{\mathcal E}\) 闭合的鞅,且 \(0\le q^{Z_n}\le1\)、\(E[q^{Z_n}]=q\)。直接代入条件母函数公式也得

\[E[q^{Z_{n+1}}\mid\mathcal F_n] =f(q)^{Z_n}=q^{Z_n}.\]
(11.6-18)

这一鞅不需要后代二阶矩。其可积性来自有界性,不能与 \(Z_n/m^n\) 的一致可积性混为一谈。

习题 11.6-4 · 比较后代分布:同一均值不足以求灭绝概率

题目。两个后代母函数满足 \(f(s)\ge g(s)\) 对所有 \(s\in[0,1]\) 成立。证明对应的灭绝概率满足 \(q_f\ge q_g\)。再举出均值同为二、灭绝概率不同的两种后代分布。

解答。令 \(a_0=b_0=0\),\(a_{n+1}=f(a_n)\)、\(b_{n+1}=g(b_n)\)。若 \(a_n\ge b_n\),则由单调性 \(f(a_n)\ge f(b_n)\ge g(b_n)\)。归纳得 \(a_n\ge b_n\),取极限即得 \(q_f\ge q_g\)。

取确定后代数 \(\xi\equiv2\),则 \(g(s)=s^2\),\(Z_n=2^n\),灭绝概率为零。另取上一题的几何分布 \(p=1/3\),其均值也是二,却有 \(q_f=1/2\)。还可核实 \(f(s)-g(s)=(1-s)^2(1+2s)/(3-2s)\ge0\),与比较结论一致。后代均值决定临界类型,不能单独决定超临界灭绝概率的数值。

关键术语

  • 后代分布:单个个体产生的后代数的概率分布。
  • Galton–Watson 过程:各个体以相同分布独立繁殖的离散代数模型。
  • 分枝性质:给定当前人数,未来由独立的单祖先族群组成。
  • 概率母函数:\(f(s)=E[s^\xi]\),把独立和转化为乘积。
  • 灭绝概率:有限代内到达零的概率,是母函数的最小不动点。
  • 临界分类:后代均值与一比较;临界灭绝须排除恒一后代。
  • 归一化鞅:在 \(m>0\) 时定义的 \(W_n=Z_n/m^n\)。
  • 均方收敛:\(E[(W_n-W)^2]\to0\),足以传递一阶矩。

参考文献与进一步阅读

  1. Durrett, R. (2019). Probability: Theory and Examples, 5th ed. 作者公开版本,§4.3.4(分枝过程与灭绝分类)、例 4.4.9(二阶矩方法)、习题 4.3.11(极限为零与灭绝的关系)。
  2. Etheridge, A. B10a: Martingales through Measure Theory,Oxford 大学讲义,§0.2(分枝过程、母函数复合及不动点迭代)。
  3. Polyanskiy, Y. (2018). MIT 6.436J / 15.085J, Lecture 26: Martingales II,§3(本节所用的鞅收敛背景)。