12.5.1 计数过程、独立平稳增量与速率
本节先修为指数分布、独立性与乘积测度及鞅的定义。计数过程(counting process)\(N=(N(t))_{t\ge0}\) 的路径右连续、非减、取非负整数值,且 \(N(0)=0\)。这里要求每次跳跃增加 \(1\),并在有限时间内只有有限次跳跃;\(N(t)-N(s)\) 数的是区间 \((s,t]\) 内的到达。
给定速率 \(\lambda>0\),若不相交时间区间上的增量相互独立,且对每个 \(0\le s<t\),有
则 \(N\) 称为速率为 \(\lambda\) 的齐次泊松过程(homogeneous Poisson process)。平稳增量指增量的分布只依赖区间长度;过程本身的分布随时间改变,\(N(t)\) 并非平稳过程。
由泊松分布,\(EN(t)=\operatorname{Var}N(t)=\lambda t\)。当 \(s\le t\) 时,把 \(N(t)\) 分成 \(N(s)\) 与独立的后续增量,便有 \(\operatorname{Cov}(N(s),N(t))=\lambda s\)。速率的单位是“次数/时间”,而 \(\lambda t\) 是无量纲参数。
反过来,对上述计数过程,独立平稳增量加上式 (12.5-2) 也确定了式 (12.5-1)。证明如下:固定 \(z\in[0,1]\),令 \(g_h(z)=E[z^{N(h)}]\),则 \(g_h(z)=1+\lambda h(z-1)+o(h)\)。将 \((0,t]\) 等分为 \(m\) 段,独立平稳增量给出 \(g_t(z)=g_{t/m}(z)^m\);令 \(m\to\infty\),得到 \(g_t(z)=\exp\{\lambda t(z-1)\}\),这正是泊松分布的概率生成函数。只规定平均次数 \(EN(t)=\lambda t\),不能确定增量独立,也不能确定泊松分布。[2]
12.5.2 指数等待与 Gamma 到达时间
定义第 \(n\) 次到达时刻(arrival time)\(T_n=\inf\{t:N(t)\ge n\}\),约定 \(T_0=0\)、\(\inf\varnothing=\infty\)。当到达时刻有限时,相邻到达间隔(interarrival time)为 \(W_n=T_n-T_{n-1}\)。\(N(t)\) 是次数,\(T_n\) 与 \(W_n\) 是时间,基本对应关系为 \(\{T_n\le t\}=\{N(t)\ge n\}\)。
速率为 \(\lambda\) 的泊松过程具有相互独立、同分布为 \(\operatorname{Exp}(\lambda)\) 的间隔 \(W_1,W_2,\ldots\)。反之,从这样的间隔出发,置 \(T_n=\sum_{j=1}^nW_j\)、\(N(t)=\max\{n:T_n\le t\}\),便得到该泊松过程。
先从独立指数间隔构造。由强大数定律,\(T_n/n\to1/\lambda\) 几乎必然,故 \(T_n\to\infty\),构造不会在有限时间内出现无限次到达。从间隔到到达时刻的变量变换的雅可比为 \(1\),所以前 \(n\) 个到达时刻的联合密度为 \(\lambda^ne^{-\lambda t_n}\),定义域为 \(0<t_1<\cdots<t_n\)。再要求第 \(n+1\) 次到达晚于 \(t\),乘上生存概率 \(e^{-\lambda(t-t_n)}\),得到
这是事件 \(N(t)=n\) 上到达向量的密度。取分割 \(0=s_0<s_1<\cdots<s_m=t\),给定非负整数 \(k_1,\ldots,k_m\),令 \(n=\sum_jk_j\)。要求第 \(j\) 段有 \(k_j\) 次到达时,该段有序坐标域的体积为 \((s_j-s_{j-1})^{k_j}/k_j!\)。将式 (12.5-3) 积分,得到
当 \(n=0\) 时,同一结果由 \(P(W_1>t)=e^{-\lambda t}\) 得到。因此所有增量确实相互独立,并具有所需的泊松分布。
再取任意满足定义 12.5-1 的过程。其全部有限维分布均由式 (12.5-4) 确定,与上述构造相同。由于任意有限组事件 \(\{T_j\le t_j\}\) 的交都能改写为 \(\{N(t_j)\ge j\}\) 的交,两个过程的到达向量也有相同的有限维分布。对到达向量取相邻差,便得到独立指数间隔的结论。
相加 \(n\) 个指数间隔,或对 \(P(T_n>t)=P(N(t)\le n-1)\) 求导,都可求得 Erlang 分布,即形状为整数 \(n\)、速率为 \(\lambda\) 的 Gamma 分布:
这里 Gamma 的第二参数采用速率,若采用尺度参数,应写 \(1/\lambda\)。对确定时刻 \(s\),到下次到达的剩余等待 \(R_s=T_{N(s)+1}-s\) 满足 \(P(R_s>h\mid\mathcal F_s^N)=e^{-\lambda h}\),其中 \(\mathcal F_s^N=\sigma(N(u):u\le s)\)。这由未来增量独立于过去得到;它描述剩余等待,不能直接用来判断一个按其他规则挑选的完整间隔的分布。
某设备的信号按速率 \(3\) 次/小时到达。半小时至少收到两次信号的概率为 \(P(N(1/2)\ge2)=1-e^{-3/2}(1+3/2)\)。第三次信号是否在一小时内到达,应计算 \(P(T_3\le1)=P(N(1)\ge3)=1-e^{-3}(1+3+9/2)\)。
一个相邻间隔的平均长度为 \(1/3\) 小时,即 \(20\) 分钟;第三次到达时刻的均值为 \(1\) 小时、方差为 \(1/3\) 小时平方。给定截至半小时的历史,从半小时这个确定时刻开始再等待的条件均值仍为 \(20\) 分钟,几乎必然成立。这不意味着 \(T_3\) 的条件分布总与历史无关。
12.5.3 给定次数后的均匀次序统计量
固定 \(t>0\) 与整数 \(n\ge1\)。给定 \(N(t)=n\),到达向量 \((T_1,\ldots,T_n)\) 的分布等于 \(n\) 个独立 \(\operatorname{Unif}(0,t)\) 随机变量从小到大排序后的分布。
将式 (12.5-3) 除以 \(P(N(t)=n)=e^{-\lambda t}(\lambda t)^n/n!\),得到条件密度
独立均匀样本在立方体 \((0,t)^n\) 上的密度是 \(t^{-n}\)。除去概率为零的坐标相等情形,每个有序向量对应 \(n!\) 种排列,因此排序后的密度恰为式 (12.5-6)。
所以对 \(0\le s\le t\),有 \(N(s)\mid N(t)=n\sim\operatorname{Bin}(n,s/t)\)。当 \(1\le k\le n\) 时,\(T_k/t\) 服从 \(\operatorname{Beta}(k,n+1-k)\),从而 \(E[T_k\mid N(t)=n]=kt/(n+1)\)。当 \(n\ge2\) 时,排序后的 \(T_1,\ldots,T_n\) 相互依赖,各自也不服从同一个均匀分布。条件化以后,\(N(t)-N(s)=n-N(s)\),两段次数的条件协方差为 \(-n(s/t)(1-s/t)\);对 \(0<s<t\) 与 \(n\ge1\),它严格为负。
给定 \(N(2)=4\),前半小时的次数服从 \(\operatorname{Bin}(4,1/4)\),因此恰有两次的条件概率是 \(\binom42(1/4)^2(3/4)^2=27/128\)。第一次到达的条件均值为 \(2/(4+1)=0.4\) 小时,即 \(24\) 分钟;第四次到达在一小时内等价于四个均匀点都落在前半段,条件概率是 \((1/2)^4=1/16\)。
三个答案均不含 \(\lambda\):给定总数后,齐次性使这些到达位置按时间长度分配。若只知道平均总数为 \(4\),便不能使用这些条件分布。
12.5.4 叠加与独立稀疏化
若 \(N_1,\ldots,N_r\) 是相互独立、速率分别为 \(\lambda_1,\ldots,\lambda_r\) 的泊松过程,则 \(N=\sum_jN_j\) 是速率 \(\sum_j\lambda_j\) 的泊松过程。每个区间内,独立泊松变量相加仍为泊松变量;不同区间内所使用的全部输入增量相互独立。不同输入过程的任意一对到达时刻独立且有连续分布,相等的概率为零,对可数个到达时刻对取并仍为零,所以叠加后的跳跃仍为单位跳跃。若输入不独立,例如把同一个过程加两次得到 \(2N_1\),每次跳跃为 \(2\),结论便失效。[3]
对速率为 \(\lambda\) 的泊松过程,各次到达分别赋予类别 \(1,\ldots,r\),类别概率为 \(p_1,\ldots,p_r\),其中 \(p_j\ge0\)、\(\sum_jp_j=1\)。假设所有标记相互独立,且整个标记序列独立于整个到达过程,则各类别的计数过程相互独立,且分别为速率 \(\lambda p_j\) 的泊松过程;速率为零时计数恒为零。
固定长度为 \(h\) 的区间,记各类别次数为 \(K_1,\ldots,K_r\)。给定该区间总数 \(n\),它们服从多项分布。若 \(k_1+\cdots+k_r=n\),则
因此同一区间内的类别次数独立。对任意有限个不相交区间,原过程的增量独立,而各区间所用标记也独立;同样的条件计算给出全部“区间—类别”次数的联合分解。这证明了各类别过程的有限维独立性,再由生成事件的 \(\pi\)–\(\lambda\) 论证得到过程生成的 σ代数独立。
保留某一类别称为稀疏化(thinning)。当每次以概率 \(p\) 独立保留时,保留与删除的计数过程分别有速率 \(\lambda p\) 与 \(\lambda(1-p)\),并且独立。若 \(0<p<1\),给定原过程在某段内的总数为 \(n\ge1\),两类次数之和被固定,其条件协方差为 \(-np(1-p)<0\),因而不再条件独立;这与无条件独立没有矛盾。
12.5.5 复合泊松过程与补偿鞅
一次到达可能携带批量、金额或位移。设 \(Y_1,Y_2,\ldots\) 独立同分布,并独立于 \(N\),定义复合泊松过程(compound Poisson process)\(S(t)=\sum_{j=1}^{N(t)}Y_j\),空和取零。对 \(N(t)\) 条件化,其特征函数为
不同区间使用独立的到达增量及独立标记,作与稀疏化证明相同的条件计算,可知 \(S\) 也具有独立平稳增量。若 \(E|Y_1|<\infty\),则 \(ES(t)=\lambda t\,EY_1\)。若还有 \(EY_1^2<\infty\),全方差公式给出 \(\operatorname{Var}S(t)=\lambda t\operatorname{Var}Y_1+\lambda t(EY_1)^2=\lambda t\,EY_1^2\)。这里随机到达次数也贡献方差,不能只保留第一项。复合泊松过程通常不再是取单位跳跃的计数过程。
关于自然滤过 \((\mathcal F_t^N)\),补偿过程(compensated process)\(M(t)=N(t)-\lambda t\) 是平方可积鞅,\(M(t)^2-\lambda t\) 也是鞅。
对 \(0\le s<t\),增量 \(D=M(t)-M(s)\) 独立于 \(\mathcal F_s^N\),且 \(ED=0\)、\(ED^2=\lambda(t-s)\)。于是 \(E[M(t)\mid\mathcal F_s^N]=M(s)\),并且 \(E[M(t)^2\mid\mathcal F_s^N]=M(s)^2+\lambda(t-s)\),分别减去相应的确定量即得结论。
类似地,在只记录已发生的到达及其标记的滤过下,若 \(E|Y_1|<\infty\),则 \(S(t)-\lambda tEY_1\) 是鞅。原因是未来的标记增量独立于已观察的历史,条件均值为 \(\lambda(t-s)EY_1\)。这些结论依赖所指定的滤过;若提前加入未来到达信息,条件均值等式未必保持。
12.5.6 非齐次过程必须使用累计强度
设确定函数 \(\lambda(u)\ge0\) 可测且局部可积,定义累计强度(cumulative intensity)\(\Lambda(t)=\int_0^t\lambda(u)\,du\)。非齐次泊松过程具有独立增量,且 \(N(t)-N(s)\sim\operatorname{Poi}(\Lambda(t)-\Lambda(s))\)。它可由速率为 \(1\) 的齐次过程 \(\Pi\) 作时间变换 \(N(t)=\Pi(\Lambda(t))\) 构造。局部可积保证有限时间内的累计强度有限;增量一般不平稳。[1,§3.7.2]
后一式针对确定时刻 \(s\),显示剩余等待通常不再服从常速率指数分布。若 \(\Lambda(\infty)<\infty\),某些 \(T_n\) 还可能为无穷大;不能无条件把所有到达时刻说成有限的 Gamma 变量。补偿鞅相应改为 \(N(t)-\Lambda(t)\),其证明仍由独立增量与增量均值得到。
当 \(\Lambda(t)>0\) 且 \(n\ge1\) 时,给定 \(N(t)=n\),未排序的到达位置可表示为独立样本,其密度为 \(\lambda(u)/\Lambda(t)\),\(0<u<t\)。因此 \(N(s)\mid N(t)=n\sim\operatorname{Bin}(n,\Lambda(s)/\Lambda(t))\)。这也可从时间变换及齐次过程的条件均匀位置得到:将均匀的累计强度坐标用 \(\Lambda\) 的广义逆变回时间,分布函数就是 \(\Lambda(s)/\Lambda(t)\)。只有在强度于该区间几乎处处为常数时,这些位置才均匀分布于时间区间。
12.5.7 习题与详解
习题 12.5-1 · 两个独立来源的竞争
两个独立泊松过程的速率分别为 \(2\) 和 \(3\) 次/小时。令 \(V\) 为任一来源首次到达的时间,\(J\) 为该次到达的来源。求 \(EV\)、\(P(J=1)\),并证明 \(V\) 与 \(J\) 独立。
两个首次等待分别为独立的 \(W_1\sim\operatorname{Exp}(2)\)、\(W_2\sim\operatorname{Exp}(3)\)。故 \(P(V>t)=e^{-2t}e^{-3t}=e^{-5t}\),所以 \(EV=1/5\) 小时,即 \(12\) 分钟。平局概率为零,而 \(P(V\in dt,J=1)=2e^{-2t}e^{-3t}dt=2e^{-5t}dt\),积分得 \(P(J=1)=2/5\)。由于 \(2e^{-5t}=(2/5)\cdot5e^{-5t}\),且来源 \(2\) 也有相同的分解,联合分布分解为来源概率与 \(V\) 的密度之积,两者独立。
习题 12.5-2 · 批量到达与补偿
批次按速率 \(4\) 次/小时到达,各批独立地包含 \(1\) 件或 \(3\) 件物品,概率分别为 \(3/4\)、\(1/4\),并独立于批次过程。设 \(S(t)\) 为累计件数。求 \(ES(2)\)、\(\operatorname{Var}S(2)\)、\(P(S(2)=0)\),写出补偿鞅,并判断 \(S(2)\) 是否为泊松变量。
批量均值 \(\mu=3/4+3/4=3/2\),二阶矩 \(EY^2=3/4+9/4=3\)。所以 \(ES(2)=8\mu=12\),\(\operatorname{Var}S(2)=8EY^2=24\)。每批件数严格为正,零件数事件就是零批次事件,故 \(P(S(2)=0)=e^{-8}\)。关于已到达批次及已知批量生成的滤过,\(S(t)-6t\) 是鞅。\(S(2)\) 的方差不等于均值,故不是泊松变量;若误把每件物品当作独立到达,会错误地算出零件数概率 \(e^{-12}\)。
习题 12.5-3 · 每隔一次保留是否等于独立稀疏化?
从速率为 \(\lambda>0\) 的泊松过程仅保留第 \(2,4,6,\ldots\) 次到达。其长期平均速率是 \(\lambda/2\),能否据此称它为该速率的泊松过程?给出两个分布层面的理由。
保留后的计数是 \(\lfloor N(t)/2\rfloor\),首个及相邻保留间隔都是两个独立指数间隔之和,服从 \(\operatorname{Gamma}(2,\lambda)\),均值为 \(2/\lambda\)、方差为 \(2/\lambda^2\)。速率为 \(\lambda/2\) 的泊松过程却应具有方差 \(4/\lambda^2\) 的指数间隔。另一方面,在起点后长度为 \(h\) 的小区间内出现至少一次保留到达的概率为 \(P(N(h)\ge2)=O(h^2)\),而所声称的泊松过程该概率应为 \((\lambda/2)h+o(h)\)。固定交替保留不满足独立标记假设;每次独立以概率 \(1/2\) 保留时,稀疏化定理才适用。
习题 12.5-4 · 强度随时间增长
以小时为时间单位,非齐次泊松过程的强度为 \(\lambda(t)=2t\)。求区间 \((1,2]\) 无到达的概率;求 \(E[N(1)\mid N(2)=4]\);给定 \(N(2)=1\),求唯一到达位置的密度及均值。
累计强度为 \(\Lambda(t)=t^2\),所以 \((1,2]\) 的增量参数是 \(4-1=3\),无到达概率为 \(e^{-3}\)。不能把端点强度 \(4\) 直接乘区间长度作为参数。给定 \(N(2)=4\),有 \(N(1)\sim\operatorname{Bin}(4,1/4)\),条件均值为 \(1\)。给定 \(N(2)=1\),其到达位置在 \((0,2)\) 上的密度为 \(2u/4=u/2\),均值为 \(\int_0^2u(u/2)\,du=4/3\) 小时,晚于均匀分布的均值 \(1\)。另从时刻 \(1\) 开始的剩余等待生存函数为 \(e^{-[(1+h)^2-1]}=e^{-2h-h^2}\),并非 \(\operatorname{Exp}(2)\) 的生存函数。
关键术语
- 齐次泊松过程(homogeneous Poisson process):独立平稳增量且区间次数服从相应泊松分布的计数过程。
- 到达时刻(arrival time):第 \(n\) 次跳跃发生的时间 \(T_n\)。
- 相邻到达间隔(interarrival time):\(W_n=T_n-T_{n-1}\),齐次泊松过程中为独立指数变量。
- Erlang 分布(Erlang distribution):形状参数为正整数的 Gamma 分布。
- 次序统计量(order statistic):样本排序后得到的相应位置的随机变量。
- 稀疏化(thinning):按标记选择保留部分到达。
- 复合泊松过程(compound Poisson process):以泊松到达次数为随机项数的独立标记之和。
- 补偿过程(compensated process):减去指定滤过下相应平均增长项后得到的过程。
- 累计强度(cumulative intensity):非齐次强度的时间积分 \(\Lambda(t)\)。
参考文献
- Durrett, R. Probability: Theory and Examples, 5th ed., 2019,§3.7,尤其 §3.7.1–3.7.3:复合泊松、稀疏化与条件到达位置。作者公开版本。
- MIT OpenCourseWare,6.041SC Probabilistic Systems Analysis and Applied Probability,Lecture 14:The Poisson Process,泊松过程定义、指数间隔与 Erlang 到达时间。官方讲义。
- MIT OpenCourseWare,6.041SC,Lecture 15:Poisson Process II,独立叠加、独立分流与抽样间隔的辨析。官方讲义。