主要先修:16.4 指数族、完全性与辅助统计量、18.2 Neyman–Pearson引理。
本节严格接18.2:先有简单假设NP最优性,再加单调似然比推广为UMP;干扰参数部分回用16.4的指数族与完全性。伯努利算例沿用18.1的数据构造,新增的是最优性证明。 查看全书依赖图与分支路线。
18.3.1 单调似然比及功效的单调性
Neyman–Pearson引理为指定的简单备择给出最强力检验。现在参数可以取一组值,同一检验是否仍最强力,取决于不同备择的似然比如何排列观测。记\(\phi(X)\in[0,1]\)为拒绝概率,功效为\(\beta_\phi(\theta)=E_\theta\phi(X)\)。
设参数按实数顺序排列,模型有共同支配测度、共同支持及其上严格为正的密度。若任意\(\theta_2>\theta_1\)都有
其中\(T\)为同一个实值统计量,\(r\)为非减函数,则称模型在\(T\)上有单调似然比,简称MLR。它要求比较每一对有序参数,不能只检查一对。
MLR使非减检验的功效非减。 对有界非减函数\(h\),在\(P_{\theta_1}\)下令\(R=r_{\theta_2,\theta_1}(T)\),有\(ER=1\)。取\(T'\)为独立复制,并令\(R'=r(T')\),得到
两个差同号,所以乘积非负;有界\(h\)与\(ER=1\)保证积分合法。这一证明不需要\(T\)有有限均值。
一参数指数族\(f_\theta=h\exp\{\eta(\theta)T-A(\eta(\theta))\}\)在\(\eta(\theta)\)非减时具有MLR。仅有统计量随参数“通常变大”的经验观察,不足以建立这一性质或最强力性质。
18.3.2 单侧UMP及复合原假设边界
在定义18.3.1的条件下,检验\(H_0:\theta\le\theta_0\)对\(H_1:\theta>\theta_0\)。固定\(0<\alpha<1\),选择\(k\)及\(0\le\gamma\le1\)使边界拒绝概率恰为\(\alpha\):
则\(\phi^*\)是一致最强力的水平\(\alpha\)检验,简称UMP:它在每个备择参数处,都不弱于任何满足\(\sup_{\theta\le\theta_0}E_\theta\phi\le\alpha\)的检验。
证明。拒绝函数是\(T\)的非减函数,式(18.3-2)说明其功效非减。因此复合原假设中最大的拒绝概率出现在边界:
对任意固定\(\theta_1>\theta_0\),似然比是\(T\)的非减函数,故式(18.3-3)是对\(\theta_0\)与\(\theta_1\)的一条NP规则:似然比高于临界值时拒绝,低于时不拒绝;若似然比有平台,平台上的任意分配均属于NP允许的边界处理。它在\(\theta_0\)恰用满水平。任何复合原假设下有效的竞争检验,尤其在\(\theta_0\)有拒绝概率不超过\(\alpha\),故NP给\(E_{\theta_1}\phi^*\ge E_{\theta_1}\phi\)。同一规则适用于每个\(\theta_1\),所以UMP。证毕。
离散分布需要\(P_{\theta_0}(T>k)\le\alpha\le P_{\theta_0}(T\ge k)\),并在\(P(T=k)>0\)时取\(\gamma=[\alpha-P(T>k)]/P(T=k)\)。放弃随机化而采用较保守的整点门槛仍可控制水平,但不能直接承袭“在全部随机化检验中UMP”的结论。
18.3.3 二项检验:严格控制全部原假设
本例沿用18.1节的十次试验与随机化规则;18.1核查水平和功效,这里进一步证明它在单侧复合备择上达到一致最强力。
设\(X_i\)iid伯努利\((p)\),检验\(p\le1/2\)对\(p>1/2\),水平\(\alpha=0.05\)。记\(S=\sum_iX_i\)。对\(p_1>p_0\),似然比中随\(S\)变化的因子是\([p_1(1-p_0)/(p_0(1-p_1))]^S\),底数大于\(1\),故MLR成立。
准确门槛。在\(p=1/2\)下,\(P(S\ge9)=11/1024\),\(P(S=8)=45/1024\)。因此在\(S\ge9\)总拒绝,\(S=8\)时以概率
拒绝,其余不拒绝。功效函数为\(P_p(S\ge9)+(67/75)P_p(S=8)\),非减且在\(p=1/2\)恰为\(0.05\),所以控制全部\(p\le1/2\);参数端点也可直接核对。取\(p=0.7\),功效约\(0.357879\)。若只在\(S\ge9\)拒绝,边界拒绝概率仅\(0.0107422\),在\(0.7\)的功效约\(0.149308\)。随机化可由一个独立均匀数实施;是否采用它,应事先写入规则。
18.3.4 正态单侧检验与双侧无UMP
设\(X_i\)iid正态\(N(\mu,\sigma^2)\),已知\(\sigma>0\)。两均值的似然比为\(\exp\{n(\mu_1-\mu_0)\bar X/\sigma^2-n(\mu_1^2-\mu_0^2)/(2\sigma^2)\}\),故在\(\bar X\)上MLR。检验\(\mu\le\mu_0\)对\(\mu>\mu_0\)的UMP规则为
这条有限样本公式来自正态样本的精确分布。取\(n=1,\sigma=1,\mu_0=0,\alpha=0.05\),门槛为\(1.644854\),在\(\mu=1\)的功效约为\(0.259511\)。
双侧反例。对同一个\(X\sim N(\mu,1)\)模型,改检验\(H_0:\mu=0\)对\(H_1:\mu\ne0\),取\(0<\alpha<1/2\)。任何正的固定备择的NP最强力检验唯一地取右尾,任何负的固定备择则唯一地取左尾;唯一性是相对于\(P_0\)几乎必然,因为似然比严格单调且临界点概率为零。若存在UMP,它必须同时等于这两个不同的拒绝函数,矛盾。故该双侧问题没有UMP。
常用的双侧规则\(|X|>z_{1-\alpha/2}\)并没有推翻这一反例。它把拒绝概率分配到两侧;在\(\alpha=0.05,\mu=1\)时功效约\(0.170075\),低于为正备择设计的单侧规则。
18.3.5 UMPU只在无偏检验类中比较
水平\(\alpha\)的检验若在全部备择上有\(\beta_\phi(\theta)\ge\alpha\),称为无偏检验。若它在这一类检验中对每个备择都最强力,称为一致最强力无偏检验,简称UMPU。“无偏”在此描述功效,不是估计量的期望。
上述正态双侧规则\(\phi^*(X)=\mathbf1_{|X|>c}\),\(c=z_{1-\alpha/2}\),就是UMPU。它的功效\(1-\Phi(c-\mu)+\Phi(-c-\mu)\)关于\(\mu\)对称,在\(\mu>0\)处导数为\(\phi(c-\mu)-\phi(c+\mu)>0\),所以在零点取得最小值\(\alpha\)。此处\(\phi\)表示标准正态密度,检验函数仍带上标或下标区分。
正态特例的UMPU证明。任何竞争的无偏水平检验\(\varphi\),由功效连续性与零点两侧的无偏要求,有\(E_0\varphi=\alpha\);功效在零点有极小值,合法对正态积分求导得到\(E_0[X\varphi]=0\)。固定\(\mu\ne0\),令\(R_\mu(x)=e^{\mu x-\mu^2/2}\),取直线\(a_\mu+b_\mu x\)连接它在\(-c,c\)处的值。指数函数严格凸,故\(R_\mu\)在区间内低于该直线,在区间外高于它。因此
候选检验也满足两条约束,第二条来自正态密度与双尾拒绝域的对称性。对\(P_0\)积分,两条线性约束使常数项和一次项消失,得到\(E_\mu\phi^*\ge E_\mu\varphi\)。积分均有限,因检验有界且正态指数矩有限。对每个\(\mu\ne0\)均成立,故为UMPU。证毕。
本节完整证明已知方差正态的这个特例。更一般的正则单参数指数族,可通过水平与零点功效导数的矩约束构造双尾UMPU,相关存在条件和证明见文献[2];不能只凭“等尾”或“条件检验”称某规则为UMPU。
18.3.6 干扰参数、条件二项与相似检验
干扰参数影响观测分布,却不是本次检验的目标。设独立计数\(Y_1\sim\operatorname{Pois}(t_1\lambda_1)\)、\(Y_2\sim\operatorname{Pois}(t_2\lambda_2)\),率\(\lambda_1,\lambda_2>0\),已知暴露量\(t_1,t_2>0\)。检验等率\(\lambda_1=\lambda_2\)对\(\lambda_1>\lambda_2\)时,共同未知率是干扰参数。
条件分布推导。记\(N=Y_1+Y_2\)、\(a=t_1\lambda_1,b=t_2\lambda_2\)。独立泊松和给\(N\sim\operatorname{Pois}(a+b)\),联合质量除以\(N=n\)的质量得
等率时条件成功概率为\(p_0=t_1/(t_1+t_2)\),与共同率无关;较大第一率对应\(p>p_0\)。因此对每个\(n\)采用条件二项上尾检验。若各条件拒绝概率不超过\(\alpha\),由塔式性质,无条件拒绝概率也不超过\(\alpha\),对每个共同率都成立。条件单调性还给出在更大的原假设\(\lambda_1\le\lambda_2\)中的水平控制。
取\(t_1=2,t_2=1\),观察到\((Y_1,Y_2)=(12,1)\)。条件总数\(13\),等率条件概率\(2/3\)。一侧精确条件p值为
所以通常不随机化的\(0.05\)条件检验拒绝等率。它无需把共同率替换成一个估计值。若要求每个\(N=n\)条件水平恰为\(0.05\),本例可在\(Y_1=11\)时以约\(0.114409\)的概率拒绝;\(N=0\)时也需一个拒绝概率为\(0.05\)的独立随机决定。选择不在零总数时拒绝,会得到保守而非处处相等的水平。
对一个含干扰参数的原假设族,若\(E_{0,\lambda}\phi=\alpha\)对每个允许的\(\lambda\)成立,称其在该原假设族上相似。该性质要求相等,强于水平不超过\(\alpha\)。
本泊松例中的比较范围。等率时\(N\sim\operatorname{Pois}((t_1+t_2)\lambda)\)是共同率的完全统计量。对任意相似竞争检验,记\(q_n=E_0[\phi\mid N=n]\),条件分布使它不依赖\(\lambda\);相似性给\(E_\lambda(q_N-\alpha)=0\)。由泊松完全性,每个\(q_n=\alpha\)。对每个总数,精确随机化上尾检验在条件二项模型中最强力;再按任意备择下的\(N\)分布加权,得到它在相似检验类中对全部\(\lambda_1>\lambda_2\)最强力。
这个结论使用了条件模型的MLR、逐总数的精确水平和原假设下的完全性。一般条件化只保证已经证明的水平与条件比较,不能自动声称在全部无条件检验中UMP。本节也未给任意多参数指数族的UMPU存在定理,相关条件方法见文献[3]。
18.3.7 习题与完整解答
习题18.3-1 离散随机化与复合原假设
四次iid伯努利试验,检验\(p\le1/2\)对\(p>1/2\)。水平取\(\alpha=0.1\),在\(S=4\)总拒绝,需要在\(S=3\)以多大概率拒绝?计算\(p=3/4\)时功效。
边界下\(P(S=4)=1/16\)、\(P(S=3)=4/16\),故\(\gamma=(1/10-1/16)/(4/16)=3/20\)。MLR使功效非减,因此边界校准保证全部\(p\le1/2\)的水平。在备择\(3/4\)处功效为\((3/4)^4+(3/20)4(3/4)^3(1/4)=243/640\approx0.379688\)。缺少边界随机化时,虽然水平仍有效,但未达到这个功效。
习题18.3-2 似然比的方向
设\(X_i\)iid指数分布,未知参数为率\(\lambda>0\)。检验\(\lambda\le\lambda_0\)对\(\lambda>\lambda_0\),拒绝应在总寿命大还是小时?
两率的似然比为\((\lambda_1/\lambda_0)^n\exp[-(\lambda_1-\lambda_0)\sum X_i]\),当\(\lambda_1>\lambda_0\)时在总寿命上递减。因此取\(T=-\sum X_i\)才符合非减MLR,大\(T\)等于小总寿命。若\(q_\alpha\)为\(\operatorname{Gamma}(n,\lambda_0)\)的下侧\(\alpha\)分位数,拒绝\(\sum X_i<q_\alpha\)是UMP。Gamma第二参数为率;不能把未知平均寿命与未知率的单侧方向混用。
习题18.3-3 条件有效性为何传到总体
两个独立等率泊松计数的暴露量相同,观测总数为\(6\),第一计数为\(5\)。求单侧条件p值,并证明逐总数水平不超过\(\alpha\)就控制全部共同率。
条件原假设为\(\operatorname{Bin}(6,1/2)\),故上尾为\([\binom65+\binom66]/2^6=7/64=0.109375\),通常\(0.05\)非随机检验不拒绝。对于任意共同率\(\lambda\),塔式性质给\(E_\lambda\phi=\sum_nP_\lambda(N=n)E_0[\phi\mid N=n]\le\sum_nP_\lambda(N=n)\alpha=\alpha\)。这是一条精确水平论证,未使用共同率的点估计或正态近似。
习题18.3-4 UMPU与UMP的不同约束
在\(X\sim N(\mu,1)\)下,说明右尾水平\(0.05\)检验为什么不属于双侧问题的无偏检验类,并列出正态UMPU证明所用的两个约束。
右尾功效为\(1-\Phi(z_{0.95}-\mu)\)。当\(\mu<0\)时低于\(0.05\),所以它虽是有效水平检验,仍不满足双侧无偏要求。双侧无偏竞争检验必须有\(E_0\varphi=\alpha\)和\(E_0[X\varphi]=0\):第一条来自连续性及水平,第二条来自功效在零点的导数为零。正态双侧检验在这一受限类中最强力,与针对正备择的右尾检验有更高功效并不冲突。
关键术语
- 复合假设:假设允许多组观测分布或参数。
- 单调似然比:每对有序参数的似然比都随同一统计量非减。
- UMP:在全部有效水平检验中,对每个备择都最强力。
- 边界校准:在原假设边界指定拒绝概率,并证明它控制整个原假设。
- 无偏检验:备择下的功效不低于指定水平。
- UMPU:只在无偏检验类中逐备择比较功效。
- 干扰参数:影响观测分布但不属于当前检验目标的参数。
- 条件检验:在给定部分统计量的分布中校准拒绝规则。
- 相似检验:原假设族中拒绝概率对每个干扰参数都恰为同一水平。
参考文献
- MIT 14.381 (2018). Lecture 9, Uniformly Most Powerful Tests。官方讲义:MLR、单侧一致最强力检验与正态、二项应用。
- Berkeley Stat 210A (2024). Testing with One Real Parameter。官方课程读本:双侧无UMP、无偏限制及指数族UMPU构造。本节针对已知方差正态点原假设给出完整凸性证明。
- Fithian, W., Berkeley Stat 210A (2025). Testing with Nuisance Parameters。大学课程讲义:泊松比较、条件指数族与条件/无条件最优性范围。本文的不等暴露量推导与相似类证明在正文展开。