第 18 章 · 检验与区间估计

18.3 复合假设、单调似然比与干扰参数

Composite Tests and Nuisance Parameters
简单假设的最强力检验要推广到复合假设,必须让同一拒绝规则对全部备择都合适,并控制原假设中每个参数的错误率。单调似然比提供了单侧问题的这种结构;双侧问题通常需要限定比较范围。本节证明单侧UMP定理和正态双侧无UMP的反例,再用两个泊松计数的条件分布去除共同率,并说明相似检验与UMPU的条件。
先修与阅读位置

主要先修:16.4 指数族、完全性与辅助统计量、18.2 Neyman–Pearson引理。

本节严格接18.2:先有简单假设NP最优性,再加单调似然比推广为UMP;干扰参数部分回用16.4的指数族与完全性。伯努利算例沿用18.1的数据构造,新增的是最优性证明。 查看全书依赖图与分支路线。

18.3.1 单调似然比及功效的单调性

Neyman–Pearson引理为指定的简单备择给出最强力检验。现在参数可以取一组值,同一检验是否仍最强力,取决于不同备择的似然比如何排列观测。记\(\phi(X)\in[0,1]\)为拒绝概率,功效为\(\beta_\phi(\theta)=E_\theta\phi(X)\)。

定义18.3.1 单调似然比

设参数按实数顺序排列,模型有共同支配测度、共同支持及其上严格为正的密度。若任意\(\theta_2>\theta_1\)都有

\[\frac{f_{\theta_2}(x)}{f_{\theta_1}(x)}=r_{\theta_2,\theta_1}(T(x)),\]
(18.3-1)

其中\(T\)为同一个实值统计量,\(r\)为非减函数,则称模型在\(T\)上有单调似然比,简称MLR。它要求比较每一对有序参数,不能只检查一对。

MLR使非减检验的功效非减。 对有界非减函数\(h\),在\(P_{\theta_1}\)下令\(R=r_{\theta_2,\theta_1}(T)\),有\(ER=1\)。取\(T'\)为独立复制,并令\(R'=r(T')\),得到

\[E_{\theta_2}h(T)-E_{\theta_1}h(T)=\operatorname{Cov}_{\theta_1}(h(T),R)=\frac12E[(h(T)-h(T'))(R-R')]\ge0.\]
(18.3-2)

两个差同号,所以乘积非负;有界\(h\)与\(ER=1\)保证积分合法。这一证明不需要\(T\)有有限均值。

一参数指数族\(f_\theta=h\exp\{\eta(\theta)T-A(\eta(\theta))\}\)在\(\eta(\theta)\)非减时具有MLR。仅有统计量随参数“通常变大”的经验观察,不足以建立这一性质或最强力性质。

18.3.2 单侧UMP及复合原假设边界

定理18.3.2 单调似然比下的单侧UMP

在定义18.3.1的条件下,检验\(H_0:\theta\le\theta_0\)对\(H_1:\theta>\theta_0\)。固定\(0<\alpha<1\),选择\(k\)及\(0\le\gamma\le1\)使边界拒绝概率恰为\(\alpha\):

\[\phi^*(x)=\mathbf1_{\{T(x)>k\}}+\gamma\mathbf1_{\{T(x)=k\}},\qquad E_{\theta_0}\phi^*=\alpha.\]
(18.3-3)

则\(\phi^*\)是一致最强力的水平\(\alpha\)检验,简称UMP:它在每个备择参数处,都不弱于任何满足\(\sup_{\theta\le\theta_0}E_\theta\phi\le\alpha\)的检验。

证明。拒绝函数是\(T\)的非减函数,式(18.3-2)说明其功效非减。因此复合原假设中最大的拒绝概率出现在边界:

\[\sup_{\theta\le\theta_0}E_\theta\phi^*=E_{\theta_0}\phi^*=\alpha.\]
(18.3-4)

对任意固定\(\theta_1>\theta_0\),似然比是\(T\)的非减函数,故式(18.3-3)是对\(\theta_0\)与\(\theta_1\)的一条NP规则:似然比高于临界值时拒绝,低于时不拒绝;若似然比有平台,平台上的任意分配均属于NP允许的边界处理。它在\(\theta_0\)恰用满水平。任何复合原假设下有效的竞争检验,尤其在\(\theta_0\)有拒绝概率不超过\(\alpha\),故NP给\(E_{\theta_1}\phi^*\ge E_{\theta_1}\phi\)。同一规则适用于每个\(\theta_1\),所以UMP。证毕。

离散分布需要\(P_{\theta_0}(T>k)\le\alpha\le P_{\theta_0}(T\ge k)\),并在\(P(T=k)>0\)时取\(\gamma=[\alpha-P(T>k)]/P(T=k)\)。放弃随机化而采用较保守的整点门槛仍可控制水平,但不能直接承袭“在全部随机化检验中UMP”的结论。

18.3.3 二项检验:严格控制全部原假设

例18.3.1 沿用18.1的伯努利检验,证明UMP最优性

本例沿用18.1节的十次试验与随机化规则;18.1核查水平和功效,这里进一步证明它在单侧复合备择上达到一致最强力。

设\(X_i\)iid伯努利\((p)\),检验\(p\le1/2\)对\(p>1/2\),水平\(\alpha=0.05\)。记\(S=\sum_iX_i\)。对\(p_1>p_0\),似然比中随\(S\)变化的因子是\([p_1(1-p_0)/(p_0(1-p_1))]^S\),底数大于\(1\),故MLR成立。

准确门槛。在\(p=1/2\)下,\(P(S\ge9)=11/1024\),\(P(S=8)=45/1024\)。因此在\(S\ge9\)总拒绝,\(S=8\)时以概率

\[\gamma=\frac{1/20-11/1024}{45/1024}=\frac{67}{75}\approx0.89333\]
(18.3-5)

拒绝,其余不拒绝。功效函数为\(P_p(S\ge9)+(67/75)P_p(S=8)\),非减且在\(p=1/2\)恰为\(0.05\),所以控制全部\(p\le1/2\);参数端点也可直接核对。取\(p=0.7\),功效约\(0.357879\)。若只在\(S\ge9\)拒绝,边界拒绝概率仅\(0.0107422\),在\(0.7\)的功效约\(0.149308\)。随机化可由一个独立均匀数实施;是否采用它,应事先写入规则。

二项单侧随机化检验的准确功效十次试验的UMP检验功效随成功率非减,在原假设边界二分之一时恰为0.05。左侧原假设区域内功效均不超过此值。例1的有限样本功效:边界校准控制整个原假设原假设:成功率不超过 0.5虚线高度为 0.0500.5100.20.50.81横轴:真实成功率;纵轴:拒绝概率
图18.3-1 按例1的二项尾概率与边界随机化公式精确计算,在成功率每隔\(0.1\)的点连线,未使用模拟。浅色区域对应复合原假设,边界点的拒绝概率为\(0.05\)。

18.3.4 正态单侧检验与双侧无UMP

例18.3.2 已知方差正态均值

设\(X_i\)iid正态\(N(\mu,\sigma^2)\),已知\(\sigma>0\)。两均值的似然比为\(\exp\{n(\mu_1-\mu_0)\bar X/\sigma^2-n(\mu_1^2-\mu_0^2)/(2\sigma^2)\}\),故在\(\bar X\)上MLR。检验\(\mu\le\mu_0\)对\(\mu>\mu_0\)的UMP规则为

\[\bar X>\mu_0+\frac{\sigma}{\sqrt n}z_{1-\alpha},\qquad \beta(\mu)=1-\Phi\left(z_{1-\alpha}-\frac{\sqrt n(\mu-\mu_0)}\sigma\right).\]
(18.3-6)

这条有限样本公式来自正态样本的精确分布。取\(n=1,\sigma=1,\mu_0=0,\alpha=0.05\),门槛为\(1.644854\),在\(\mu=1\)的功效约为\(0.259511\)。

双侧反例。对同一个\(X\sim N(\mu,1)\)模型,改检验\(H_0:\mu=0\)对\(H_1:\mu\ne0\),取\(0<\alpha<1/2\)。任何正的固定备择的NP最强力检验唯一地取右尾,任何负的固定备择则唯一地取左尾;唯一性是相对于\(P_0\)几乎必然,因为似然比严格单调且临界点概率为零。若存在UMP,它必须同时等于这两个不同的拒绝函数,矛盾。故该双侧问题没有UMP。

常用的双侧规则\(|X|>z_{1-\alpha/2}\)并没有推翻这一反例。它把拒绝概率分配到两侧;在\(\alpha=0.05,\mu=1\)时功效约\(0.170075\),低于为正备择设计的单侧规则。

18.3.5 UMPU只在无偏检验类中比较

定义18.3.3 无偏检验与UMPU

水平\(\alpha\)的检验若在全部备择上有\(\beta_\phi(\theta)\ge\alpha\),称为无偏检验。若它在这一类检验中对每个备择都最强力,称为一致最强力无偏检验,简称UMPU。“无偏”在此描述功效,不是估计量的期望。

上述正态双侧规则\(\phi^*(X)=\mathbf1_{|X|>c}\),\(c=z_{1-\alpha/2}\),就是UMPU。它的功效\(1-\Phi(c-\mu)+\Phi(-c-\mu)\)关于\(\mu\)对称,在\(\mu>0\)处导数为\(\phi(c-\mu)-\phi(c+\mu)>0\),所以在零点取得最小值\(\alpha\)。此处\(\phi\)表示标准正态密度,检验函数仍带上标或下标区分。

正态特例的UMPU证明。任何竞争的无偏水平检验\(\varphi\),由功效连续性与零点两侧的无偏要求,有\(E_0\varphi=\alpha\);功效在零点有极小值,合法对正态积分求导得到\(E_0[X\varphi]=0\)。固定\(\mu\ne0\),令\(R_\mu(x)=e^{\mu x-\mu^2/2}\),取直线\(a_\mu+b_\mu x\)连接它在\(-c,c\)处的值。指数函数严格凸,故\(R_\mu\)在区间内低于该直线,在区间外高于它。因此

\[(\phi^*(x)-\varphi(x))(R_\mu(x)-a_\mu-b_\mu x)\ge0.\]
(18.3-7)

候选检验也满足两条约束,第二条来自正态密度与双尾拒绝域的对称性。对\(P_0\)积分,两条线性约束使常数项和一次项消失,得到\(E_\mu\phi^*\ge E_\mu\varphi\)。积分均有限,因检验有界且正态指数矩有限。对每个\(\mu\ne0\)均成立,故为UMPU。证毕。

本节完整证明已知方差正态的这个特例。更一般的正则单参数指数族,可通过水平与零点功效导数的矩约束构造双尾UMPU,相关存在条件和证明见文献[2];不能只凭“等尾”或“条件检验”称某规则为UMPU。

18.3.6 干扰参数、条件二项与相似检验

干扰参数影响观测分布,却不是本次检验的目标。设独立计数\(Y_1\sim\operatorname{Pois}(t_1\lambda_1)\)、\(Y_2\sim\operatorname{Pois}(t_2\lambda_2)\),率\(\lambda_1,\lambda_2>0\),已知暴露量\(t_1,t_2>0\)。检验等率\(\lambda_1=\lambda_2\)对\(\lambda_1>\lambda_2\)时,共同未知率是干扰参数。

条件分布推导。记\(N=Y_1+Y_2\)、\(a=t_1\lambda_1,b=t_2\lambda_2\)。独立泊松和给\(N\sim\operatorname{Pois}(a+b)\),联合质量除以\(N=n\)的质量得

\[P(Y_1=k\mid N=n)=\binom nk\left(\frac a{a+b}\right)^k\left(\frac b{a+b}\right)^{n-k}.\]
(18.3-8)

等率时条件成功概率为\(p_0=t_1/(t_1+t_2)\),与共同率无关;较大第一率对应\(p>p_0\)。因此对每个\(n\)采用条件二项上尾检验。若各条件拒绝概率不超过\(\alpha\),由塔式性质,无条件拒绝概率也不超过\(\alpha\),对每个共同率都成立。条件单调性还给出在更大的原假设\(\lambda_1\le\lambda_2\)中的水平控制。

例18.3.3 不等暴露量的两个计数

取\(t_1=2,t_2=1\),观察到\((Y_1,Y_2)=(12,1)\)。条件总数\(13\),等率条件概率\(2/3\)。一侧精确条件p值为

\[P\{\operatorname{Bin}(13,2/3)\ge12\}=\frac{13\cdot2^{12}+2^{13}}{3^{13}}=\frac{20480}{531441}\approx0.0385367.\]
(18.3-9)

所以通常不随机化的\(0.05\)条件检验拒绝等率。它无需把共同率替换成一个估计值。若要求每个\(N=n\)条件水平恰为\(0.05\),本例可在\(Y_1=11\)时以约\(0.114409\)的概率拒绝;\(N=0\)时也需一个拒绝概率为\(0.05\)的独立随机决定。选择不在零总数时拒绝,会得到保守而非处处相等的水平。

等率原假设下条件计数的二项分布总数13和暴露量比二比一下,第一计数服从二项13、成功率三分之二。十二与十三的上尾质量之和约为0.03854。固定总数 13:原假设的条件分布不含共同率0.20.10非随机检验不拒绝的计数上尾拒绝:12 与 13上尾概率 0.03854012345678910111213横轴:第一计数;纵轴:条件概率
图18.3-2 按\(\operatorname{Bin}(13,2/3)\)的精确质量作图;红色两柱对应例3的非随机上尾拒绝域。极小概率低于屏幕像素分辨率,图中不将其当作零概率。
定义18.3.4 相似检验

对一个含干扰参数的原假设族,若\(E_{0,\lambda}\phi=\alpha\)对每个允许的\(\lambda\)成立,称其在该原假设族上相似。该性质要求相等,强于水平不超过\(\alpha\)。

本泊松例中的比较范围。等率时\(N\sim\operatorname{Pois}((t_1+t_2)\lambda)\)是共同率的完全统计量。对任意相似竞争检验,记\(q_n=E_0[\phi\mid N=n]\),条件分布使它不依赖\(\lambda\);相似性给\(E_\lambda(q_N-\alpha)=0\)。由泊松完全性,每个\(q_n=\alpha\)。对每个总数,精确随机化上尾检验在条件二项模型中最强力;再按任意备择下的\(N\)分布加权,得到它在相似检验类中对全部\(\lambda_1>\lambda_2\)最强力。

这个结论使用了条件模型的MLR、逐总数的精确水平和原假设下的完全性。一般条件化只保证已经证明的水平与条件比较,不能自动声称在全部无条件检验中UMP。本节也未给任意多参数指数族的UMPU存在定理,相关条件方法见文献[3]。

18.3.7 习题与完整解答

习题18.3-1 离散随机化与复合原假设

四次iid伯努利试验,检验\(p\le1/2\)对\(p>1/2\)。水平取\(\alpha=0.1\),在\(S=4\)总拒绝,需要在\(S=3\)以多大概率拒绝?计算\(p=3/4\)时功效。

边界下\(P(S=4)=1/16\)、\(P(S=3)=4/16\),故\(\gamma=(1/10-1/16)/(4/16)=3/20\)。MLR使功效非减,因此边界校准保证全部\(p\le1/2\)的水平。在备择\(3/4\)处功效为\((3/4)^4+(3/20)4(3/4)^3(1/4)=243/640\approx0.379688\)。缺少边界随机化时,虽然水平仍有效,但未达到这个功效。

习题18.3-2 似然比的方向

设\(X_i\)iid指数分布,未知参数为率\(\lambda>0\)。检验\(\lambda\le\lambda_0\)对\(\lambda>\lambda_0\),拒绝应在总寿命大还是小时?

两率的似然比为\((\lambda_1/\lambda_0)^n\exp[-(\lambda_1-\lambda_0)\sum X_i]\),当\(\lambda_1>\lambda_0\)时在总寿命上递减。因此取\(T=-\sum X_i\)才符合非减MLR,大\(T\)等于小总寿命。若\(q_\alpha\)为\(\operatorname{Gamma}(n,\lambda_0)\)的下侧\(\alpha\)分位数,拒绝\(\sum X_i<q_\alpha\)是UMP。Gamma第二参数为率;不能把未知平均寿命与未知率的单侧方向混用。

习题18.3-3 条件有效性为何传到总体

两个独立等率泊松计数的暴露量相同,观测总数为\(6\),第一计数为\(5\)。求单侧条件p值,并证明逐总数水平不超过\(\alpha\)就控制全部共同率。

条件原假设为\(\operatorname{Bin}(6,1/2)\),故上尾为\([\binom65+\binom66]/2^6=7/64=0.109375\),通常\(0.05\)非随机检验不拒绝。对于任意共同率\(\lambda\),塔式性质给\(E_\lambda\phi=\sum_nP_\lambda(N=n)E_0[\phi\mid N=n]\le\sum_nP_\lambda(N=n)\alpha=\alpha\)。这是一条精确水平论证,未使用共同率的点估计或正态近似。

习题18.3-4 UMPU与UMP的不同约束

在\(X\sim N(\mu,1)\)下,说明右尾水平\(0.05\)检验为什么不属于双侧问题的无偏检验类,并列出正态UMPU证明所用的两个约束。

右尾功效为\(1-\Phi(z_{0.95}-\mu)\)。当\(\mu<0\)时低于\(0.05\),所以它虽是有效水平检验,仍不满足双侧无偏要求。双侧无偏竞争检验必须有\(E_0\varphi=\alpha\)和\(E_0[X\varphi]=0\):第一条来自连续性及水平,第二条来自功效在零点的导数为零。正态双侧检验在这一受限类中最强力,与针对正备择的右尾检验有更高功效并不冲突。

关键术语

  • 复合假设:假设允许多组观测分布或参数。
  • 单调似然比:每对有序参数的似然比都随同一统计量非减。
  • UMP:在全部有效水平检验中,对每个备择都最强力。
  • 边界校准:在原假设边界指定拒绝概率,并证明它控制整个原假设。
  • 无偏检验:备择下的功效不低于指定水平。
  • UMPU:只在无偏检验类中逐备择比较功效。
  • 干扰参数:影响观测分布但不属于当前检验目标的参数。
  • 条件检验:在给定部分统计量的分布中校准拒绝规则。
  • 相似检验:原假设族中拒绝概率对每个干扰参数都恰为同一水平。

参考文献

  1. MIT 14.381 (2018). Lecture 9, Uniformly Most Powerful Tests。官方讲义:MLR、单侧一致最强力检验与正态、二项应用。
  2. Berkeley Stat 210A (2024). Testing with One Real Parameter。官方课程读本:双侧无UMP、无偏限制及指数族UMPU构造。本节针对已知方差正态点原假设给出完整凸性证明。
  3. Fithian, W., Berkeley Stat 210A (2025). Testing with Nuisance Parameters。大学课程讲义:泊松比较、条件指数族与条件/无条件最优性范围。本文的不等暴露量推导与相似类证明在正文展开。