主要先修：16.1 统计模型、似然与可识别性、18.1 检验、功效与p值。
沿18.1进入两个简单假设的最强力比较，再由18.3讨论怎样推广到单侧复合假设。这里不把指定备择的最优性当作所有备择的结论。 查看全书依赖图与分支路线。
18.2.1 两个简单假设与共同支配测度
18.1节已经定义检验的水平和功效。本节解决一个具体优化问题：原假设与备择假设都完全指定数据分布，在一类错误概率不超过给定上界时，哪条规则具有最大功效？若只规定均值而不规定其余分布，或者均值已知但方差未知，假设仍可能是复合的，不能直接套用下面的两分布结论。
在同一可测样本空间上，检验 \(H_0:P=P_0\) 对 \(H_1:P=P_1\)。可测检验函数 \(\varphi:\mathcal X\to[0,1]\) 表示给定观测后的拒绝概率，记
达到这个最大值的规则称为水平 \(\alpha\) 的最强力检验。比较类包括所有可测随机化检验，而不只是某个统计量的上尾规则。这里 \(\pi_0\) 是检验大小，\(\alpha\) 是预先给定的水平上界；二类错误概率为 \(1-\pi_1\)。
两个概率测度总有共同支配测度，例如 \(\nu=P_0+P_1\)。令 \(p_j=dP_j/d\nu\)。共同支配不等于共同正密度支持：某个点可以只在一个假设下有正密度。引理不需要密度对参数可微，也不要求 \(X\) 的分量独立。
在 \(p_0>0\) 处定义似然比 \(L=p_1/p_0\)；在 \(p_0=0,p_1>0\) 处取 \(L=+\infty\)。两密度都为零处可任意赋值，因为两假设下均不会观察到该区域。似然比比较两个固定分布对观测的相对支持，并不是备择假设的后验概率。为避免零分母，证明和规则优先使用 \(p_1-cp_0\)。
18.2.2 Neyman–Pearson引理的完整证明
设 \(0<\alpha<1\)。取有限常数 \(c\ge0\) 及可测规则 \(\varphi^*\)，满足 \(\pi_0(\varphi^*)=\alpha\)，并在 \(\nu\) 几乎处处按如下方式定义：
则对任何 \(\pi_0(\varphi)\le\alpha\) 的检验，都有 \(\pi_1(\varphi)\le\pi_1(\varphi^*)\)。等号集合上的函数只需使大小达到要求，并不必须为常数。
证明。逐点比较 \(h=p_1-cp_0\)。在 \(h>0\) 区域，\(\varphi^*=1\ge\varphi\)，故 \((\varphi^*-\varphi)h\ge0\)；在 \(h<0\) 区域，\(\varphi^*=0\le\varphi\)，两个因子都非正，乘积仍非负；在 \(h=0\) 区域，乘积为零。这同时涵盖单边零密度，不需要做除法。
因 \(|\varphi^*-\varphi|\le1\)，该乘积的绝对值不超过 \(p_1+cp_0\)，其积分有限。于是
第二项非负来自水平约束与 \(c\ge0\)，因此最强力结论成立。每一步都是有限样本积分关系，没有使用极限定理。证毕。
证明也给出完整等号条件。若 \(c>0\)，另一规则与 \(\varphi^*\) 功效相同，当且仅当大小同为 \(\alpha\)，并在 \(p_1>cp_0\) 与 \(p_1<cp_0\) 的区域分别取一与零，\(\nu\) 几乎处处成立。原因是式(18.2-3)的两个非负项都必须为零；非负被积函数积分为零又迫使它几乎处处为零。
边界 \(p_1=cp_0\) 上可有多条同样最强力的规则，只要保持相同大小。当边界在两分布下都为零概率时，规则在两假设的零概率集合之外唯一。若 \(c=0\)，则规则在 \(p_1>0\) 处全拒绝，功效已为一；同功效检验不必用满水平，只须在 \(P_1\) 几乎处处取一，并满足水平约束。这一情形不能沿用“大小必须等于 \(\alpha\)”的必要条件。
共同支配、零密度约定和随机化形式可对照Berkeley Stat 210A讲义；积分比较也见van de Geer讲义§2.2。
18.2.3 如何确定阈值和随机化概率
在 \(P_0\) 下，\(L\) 几乎处处有限，因为无限似然比所在区域有原假设概率零。对任意 \(0<\alpha<1\)，选择上尾分位阈值 \(c\ge0\)，使
分位点的左右极限保证这样的有限阈值存在，且 \(\gamma\in[0,1]\)。边界质量为零时，两侧概率相等，已恰好达到 \(\alpha\)，边界取值不影响检验。边界有原子时，严格上尾可能小于 \(\alpha\)，而把整个边界加进去又可能超过它；随机化可以恰好补足差额。
实施方法是另取在两假设下都与数据独立的 \(V\sim U(0,1)\)，观察到边界时，仅在 \(V\le\gamma\) 时拒绝。拒绝率对数据抽样和辅助随机化共同计算，不是“假设有 \(\gamma\) 的概率为真”。规则和随机化概率应在查看这次数据前确定。
当 \(p_0=0,p_1>0\) 时，规则总拒绝，并增加功效而不增加一类错误概率。若 \(p_0>0,p_1=0\)，正阈值规则不拒绝；在零阈值的饱和情形，该区域可用于调节大小而不改变已经达到一的功效。端点 \(\alpha=0\) 可直接在原假设零概率区域拒绝，最大功效为 \(P_1(p_0=0)\)；\(\alpha=1\) 则总拒绝。这两个端点不需要上述分位点构造。
18.2.4 五次伯努利观察的精确检验
设 \(X_1,\ldots,X_5\) iid服从 \(\operatorname{Bernoulli}(p)\)，检验 \(H_0:p=1/2\) 对 \(H_1:p=4/5\)，取 \(\alpha=1/20\)。成功次数 \(S=\sum_iX_i\) 的似然比为
似然比随 \(S\) 严格增加。全拒绝 \(S=5\) 后仍未达到5%大小，而把 \(S=4\) 全加入会达到 \(6/32=18.75\%\)。因此在 \(S=4\) 处随机拒绝，所需概率是
大小恰为 \(1/32+(3/25)(5/32)=0.05\)。备择下的功效为
二类错误概率为 \(0.623168\)。若采用只在 \(S=5\) 拒绝的非随机化上尾规则，大小为 \(0.03125\)，功效为 \(0.32768\)。它在自身大小下最强力，但不能据此说它在允许随机化的5%水平比较类中最强力。五次完整观察的每条二元路径在原假设下都有概率 \(1/32\)，所以任何非随机化规则的大小都是 \(1/32\) 的整数倍，不可能恰为 \(1/20\)。整个计算使用精确二项分布。
| 成功次数 \(s\) | 0 | 1 | 2 | 3 | 4 | 5 |
|---|---|---|---|---|---|---|
| \(\mathbb P_0(S=s)\) | \(1/32\) | \(5/32\) | \(10/32\) | \(10/32\) | \(5/32\) | \(1/32\) |
| \(\mathbb P_1(S=s)\) | \(1/3125\) | \(20/3125\) | \(160/3125\) | \(640/3125\) | \(1280/3125\) | \(1024/3125\) |
| \(\varphi^*(s)\) | 0 | 0 | 0 | 0 | \(3/25\) | 1 |
18.2.5 正态简单假设的精确功效
设 \(X_i\) iid服从 \(N(\mu,\sigma^2)\)，\(\sigma>0\) 已知。检验 \(H_0:\mu=\mu_0\) 对指定的 \(H_1:\mu=\mu_1>\mu_0\)。取自然对数，联合似然比满足
因斜率为正，似然比检验拒绝较大的样本均值。令 \(\Phi\) 为标准正态分布函数，\(z_{1-\alpha}=\Phi^{-1}(1-\alpha)\)。在原假设下，\(Z=\sqrt n(\bar X-\mu_0)/\sigma\) 精确服从 \(N(0,1)\)，所以
边界概率为零，不需要随机化。取 \(\mu_0=0,\mu_1=1,\sigma=2,n=16,\alpha=0.05\)。此时 \(Z=2\bar X\)，备择下为 \(N(2,1)\)，数值为
这里 \(\log L=2Z-2\)，对应似然比阈值 \(c=\exp(2z_{0.95}-2)\approx3.63172323\)。若观察均值为一，\(Z=2\) 超过阈值，规则拒绝原假设；功效 \(0.63876\) 则评价真均值为一时重复抽样的拒绝频率，不是这次判断为真的概率。正态样本使分布精确成立，样本量小也不需要CLT来替代计算。
这个阈值的概率依据是原假设分布，而备择的均值位移决定功效。把已知 \(\sigma\) 换成估计标准差以后，两简单假设的密度和统计量分布都已改变，不能把本例的证明照搬；未知方差及其他干扰参数见18.3节。
18.2.6 最强力结论的比较范围
Neyman–Pearson引理优化的是指定 \(P_1\) 下的拒绝概率。改变备择以后，似然比的排序可能反转。例18.2-2若改成 \(\mu_1=-1\)，最强力规则在 \(Z<-z_{0.95}\) 时拒绝；继续使用原来的右尾规则，其功效仅为 \(1-\Phi(z_{0.95}+2)\approx0.00013377\)，而正确左尾规则的功效为 \(0.63876003\)。两条规则的原假设大小都为5%，水平相同并不意味着功效相同。
本例不存在对所有双侧备择都最强力的单一规则。对 \(\mu_1=1\)，连续似然比的边界概率为零，且阈值为正，等号条件迫使任何最强力规则与右尾规则几乎处处相同。对 \(\mu_1=-1\)，同一论证迫使它与左尾规则相同。两个拒绝域不相同，且各自在原假设下有正概率，因此没有检验能同时对这两个指定备择最强力；更不可能对所有 \(\mu\ne0\) 都最强力。
若同一规则对每个备择分布都最强力，才称为一致最强力检验。某些单侧模型具有单调似然比，使这样的规则可以存在，须另外核对全部备择及原假设约束，见下一节。本节也没有给对数似然比赋予通用卡方分布：正态例的 \(\log L\) 在原假设下实际服从 \(N(-2,4)\)。复合模型的广义似然比及其渐近分布将在19.4节讨论。
18.2.7 习题与解答
习题18.2-1 最强力规则何时唯一
在定理18.2-1中设 \(c>0\)。证明：若另一水平 \(\alpha\) 规则在严格不等号区域与 \(\varphi^*\) 不同，且不同区域有正的 \(\nu\) 测度，则其功效严格较小。边界上不同是否也必然导致严格差距？
在严格正号区域，原规则取一，任何不同取值都使两因子的乘积严格为正；严格负号区域也一样，因为两个因子此时都为负。若这样的不同集合有正测度，非负可积函数的积分 \(G\) 就严格为正，式(18.2-3)给出严格功效差距。边界上的乘积恒为零，所以不一定有严格差距。两规则若只在边界不同，且大小仍同为指定水平，则由边界恒等式 \(p_1=cp_0\)，功效也相同。这说明“最强力”可以有多个实现，唯一性还依赖边界是否有概率质量。
习题18.2-2 把二项备择改为成功概率0.2
保留五次iid伯努利观察、原假设 \(p=1/2\) 与水平 \(0.05\)，把备择改成 \(p=1/5\)。构造精确最强力规则并计算功效；若仍使用例18.2-1的右尾规则，功效是多少？
此时似然比为 \((8/5)^5(1/4)^S\)，随成功次数下降，所以应在成功零次时总拒绝，成功一次时以 \(3/25\) 的概率拒绝，其余不拒绝。原假设概率与之前左右对称，大小仍为 \(1/32+(3/25)(5/32)=1/20\)。备择下 \(P(S=0)=(4/5)^5\)、\(P(S=1)=5(1/5)(4/5)^4\)，功效仍为 \(5888/15625=0.376832\)。误用右尾规则则为 \((1/5)^5+(3/25)5(1/5)^4(4/5)=17/15625=0.001088\)。正负方向不能只沿用同一拒绝域。
习题18.2-3 零密度与多个并列最优规则
样本空间为 \(\{a,b,c,d\}\)，两假设概率向量分别为 \(P_0=(0,1/2,1/2,0)\)、\(P_1=(1/2,1/4,1/4,0)\)。在水平 \(0.1\) 下构造两条不同的最强力规则，并解释点 \(a,d\) 的处理。
点 \(a\) 的似然比为无穷，必须拒绝才充分取得其备择概率二分之一，而不增加一类错误。点 \(b,c\) 的似然比同为二分之一；取阈值二分之一，要求 \(\{\varphi(b)+\varphi(c)\}/2=0.1\)。因此可以取 \(\varphi(b)=\varphi(c)=0.1\)，也可以取 \(\varphi(b)=0.2,\varphi(c)=0\)，两条规则都在 \(a\) 取一。功效均为 \(1/2+(1/4)(0.2)=0.55\)，由引理达到最强力。点 \(d\) 在两分布下均为零概率，任意拒绝概率都不改变大小或功效；不能为了计算似然比而给零除零赋予概率意义。
习题18.2-4 双侧规则是否对正备择最强力
在例18.2-2的标准化模型中，比较右尾规则 \(Z>z_{0.95}\) 与双侧规则 \(|Z|>z_{0.975}\)。计算二者在 \(Z\sim N(2,1)\) 时的功效，说明双侧规则为什么可以有效却不是该指定备择下最强力。
右尾功效为 \(1-\Phi(z_{0.95}-2)\approx0.63876003\)。双侧规则在原假设下大小为 \(2\{1-\Phi(z_{0.975})\}=0.05\)，因此水平有效；备择下功效为 \(1-\Phi(z_{0.975}-2)+\Phi(-z_{0.975}-2)\approx0.51600527\)。它把部分拒绝概率放在指定正备择相对不利的左尾，故功效较低。严格唯一性条件也指出，两规则在具有正概率的区域不同，所以双侧规则不能达到该简单正备择的最大功效。为双侧目标设计规则与针对某个指定方向求最强力，是不同的比较问题。
关键术语
- 简单假设：完全确定观测数据的一个概率分布。
- 共同支配测度：使两假设分布都能写为密度积分的同一测度，不要求两密度的正支持相同。
- 似然比：备择密度相对于原假设密度的比值，零分母处须按支持情况处理。
- 检验大小与水平：本节大小是 \(\mathbb E_0\varphi\)，水平是它必须满足的预定上界。
- 功效：指定备择分布下拒绝原假设的概率。
- 最强力检验：在规定水平比较类中，对指定备择达到最大功效的规则。
- 边界随机化：在似然比恰等于阈值时，以预定概率拒绝，用以调节离散检验大小。
- 等号条件：规定其他规则何时具有同样功效，并区分严格排序区域与并列边界。
- 一致最强力：同一检验对备择集合中的每个分布都最强力，需比两简单假设更多的结构。
参考文献
- Will Fithian，UC Berkeley Stat 210A，Hypothesis Testing and the Neyman–Pearson Lemma，2024，§3.1–3.2。共同支配、零密度似然比约定、Neyman–Pearson引理及二项边界随机化。
- Sara van de Geer，ETH Zürich，Mathematical Statistics，2010，§2.2。以随机化检验的两类风险给出Neyman–Pearson积分不等式；本节直接采用密度差以包含零分母。
- Philippe Rigollet，MIT 18.650，Parametric Hypothesis Testing，2016，“The Gaussian case”部分。已知方差下正态标准化统计量的精确分布，以及有限样本水平与渐近水平的区别。