第 18 章 · 检验与区间估计

18.6 多重检验与错误率

Multiple Testing and Error Rates
同时检验多个假设时,每项检验有效并不保证整组结论具有指定错误率。FWER控制至少一次错误拒绝的概率,FDR控制错误发现比例的期望。本节证明Bonferroni与Holm的任意依赖保证、BH的独立情形保证及BY修正,再用手算案例说明拒绝流程、依赖反例与筛选后检验的问题。
先修与阅读位置

主要先修:3.4 独立事件、18.1 检验、功效与p值。

这是18.1之后的并列错误率支线,可以直接进入;不必先完成18.2–18.5。后续23.4将它用于数据选择后的统一误差控制。 查看全书依赖图与分支路线。

18.6.1 假设族、FDP与两种错误率

先规定一个含\(m\ge1\)个原假设的假设族\(H_1,\ldots,H_m\),并在一个固定的数据分布下记真实原假设的指标集为\(I_0\),其大小为\(m_0\)。真伪由该分布决定,通常未知;本节不为假设赋予先验概率。根据有效p值的定义,每个真实原假设的p值须满足

\[P(p_i\le t)\le t,\qquad 0\le t\le1,\quad i\in I_0.\]
(18.6-1)

这称为超均匀性,包括离散检验的保守p值。对复合原假设,它必须在原假设允许的每个分布下成立。非真实原假设的p值不受这条要求限制。

定义18.6.1 错误率

记\(R\)为总拒绝数,\(V\)为被拒绝的真实原假设数。错误发现比例、错误发现率与族错误率分别为

\[\operatorname{FDP}=\frac{V}{R\vee1},\qquad \operatorname{FDR}=E(\operatorname{FDP}),\qquad \operatorname{FWER}=P(V\ge1).\]
(18.6-2)

这里\(R\vee1=\max(R,1)\),所以没有拒绝时FDP规定为零。FWER关心是否有任何错误,FDR关心一次实验的错误比例在重复实验中的平均值。

逐点有\(\operatorname{FDP}\le\mathbf1_{\{V\ge1\}}\),故\(\operatorname{FDR}\le\operatorname{FWER}\)。全部原假设真实时,\(V=R\),二者相等。控制FDR为\(0.05\),既不保证某次观察到的FDP低于\(0.05\),也不表示每项被拒绝假设各有\(5\%\)的错误概率;后者是另一个条件或后验问题。FDR也不能一般写成\(E(V)/E(R)\)。

18.6.2 Bonferroni与Holm:任意依赖的FWER控制

定理18.6.2 Bonferroni与Holm

设每个真实原假设的p值满足式(18.6-1),固定\(0<\alpha<1\)。Bonferroni在\(p_i\le\alpha/m\)时拒绝。Holm先按p值排序,并逐步检验

\[p_{(k)}\le\frac{\alpha}{m-k+1},\qquad k=1,\ldots,m.\]
(18.6-3)

一旦首次不满足,便停止并不拒绝其余假设;若全部满足,则全部拒绝。两种方法在任意p值依赖结构下都满足\(\operatorname{FWER}\le\alpha\)。

完整证明。Bonferroni发生错误必有一个真实原假设的p值不超过\(\alpha/m\)。由并集上界及超均匀性,

\[P(V\ge1)\le\sum_{i\in I_0}P(p_i\le\alpha/m)\le\frac{m_0}{m}\alpha\le\alpha.\]
(18.6-4)

对于Holm,若\(m_0=0\)则结论直接成立。否则令\(k_0\)为排序中第一个真实原假设的位置;并列时采用预先固定的排列。此前只能有\(m-m_0\)个非真实原假设,故\(k_0\le m-m_0+1\),于是\(m-k_0+1\ge m_0\)。发生任何错误拒绝时,Holm必已拒绝这一首个真实原假设,所以

\[\{V\ge1\}\subseteq\left\{\min_{i\in I_0}p_i\le\frac{\alpha}{m-k_0+1}\le\frac{\alpha}{m_0}\right\},\qquad P(V\ge1)\le\sum_{i\in I_0}P(p_i\le\alpha/m_0)\le\alpha.\]
(18.6-5)

证明没有用独立性,且对任意真伪配置成立,这称为强FWER控制。证毕。

Holm至少拒绝Bonferroni拒绝的全部假设:若排序位置\(k\)的p值不超过\(\alpha/m\),则前面各p值也不超过这一数,而各步门槛不小于它。Holm的“停止”规则是证明的一部分;不能在一次失败后继续寻找较宽门槛。

18.6.3 BH:独立情形下的FDR证明

定理18.6.3 Benjamini–Hochberg方法

固定目标\(0<q<1\)。BH是一种逐步上升方法,定义

\[R=\max\left(\{k:p_{(k)}\le kq/m\}\cup\{0\}\right),\qquad \text{拒绝所有 }p_i\le Rq/m\quad(R>0).\]
(18.6-6)

若所有p值相互独立,真实原假设的p值超均匀,则\(\operatorname{FDR}\le m_0q/m\le q\)。非真实原假设的p值可有任意边际分布。若真实原假设的p值都恰为均匀分布,则第一条上界取等号。

完整证明:留一法。先注意拒绝数确为\(R\):若有更多p值不超过\(Rq/m\),排序中下一个位置也满足BH条件,与最大性矛盾。固定\(i\in I_0\),把\(p_i\)改为零,其他p值不变,记新的拒绝数为\(R_i\)。它只依赖其他p值,且\(R_i\ge1\)。对每个\(r\ge1\)有

\[\{i\text{被拒绝},R=r\}=\{p_i\le rq/m,R_i=r\}.\]
(18.6-7)

从左到右:原来\(p_i\)在已拒绝的前\(r\)项中,降低它不会改变第\(r\)项之后的排序值,因此不会产生更大的合格位置。从右到左:把零恢复为不超过\(rq/m\)的值后,仍至少有\(r\)项不超过该门槛,故原拒绝数至少为\(r\);降低一个p值只能增加拒绝数,又给原拒绝数不超过\(R_i=r\)。于是相等且拒绝\(i\)。

给定其他p值,用独立性和超均匀性可得\(P(p_i\le rq/m\mid p_{-i})\le rq/m\)。利用式(18.6-7),

\[E\left[\frac{\mathbf1_{\{i\text{被拒绝}\}}}{R\vee1}\right]=\sum_{r=1}^m\frac{P(p_i\le rq/m,R_i=r)}r\le\frac qm\sum_{r=1}^mP(R_i=r)=\frac qm.\]
(18.6-8)

对\(i\in I_0\)求和即得\(\operatorname{FDR}\le m_0q/m\);均匀时条件概率取等号,最终也取等号。证毕。这里没有把随机门槛\(Rq/m\)误当作与\(p_i\)独立;独立的是留一后的\(R_i\)与\(p_i\)。

比例\(m_0/m\)是定理中的真实原假设比例,未知也不妨碍使用BH。直接把\(m\)换成未经校正的数据估计量,会改变证明;自适应FDR方法需要另外的条件。BH也适用于一些特定正依赖条件,但本节此证明的技术范围仅为上述独立情形,相关扩展见文献[2]。

18.6.4 手算:停止规则与最大合格位置

例18.6.1 六项检验

已排序的p值为\((0.004,0.009,0.012,0.028,0.060,0.200)\),取\(\alpha=q=0.05\)。各门槛如下,表中小数为显示时四舍五入,实际判断用精确式。

表18.6-1 六项检验的比较门槛
排序位置p值HolmBHBY
10.0040.0083330.0083330.003401
20.0090.0100000.0166670.006803
30.0120.0125000.0250000.010204
40.0280.0166670.0333330.013605
50.0600.0250000.0416670.017007
60.2000.0500000.0500000.020408

逐项计算。Bonferroni门槛为\(1/120\),只拒绝第一项。Holm前三步通过,在第四步失败,拒绝前三项。BH的最大合格位置是\(4\),所以拒绝前四项。下一节定义的BY使用\(H_6=49/20\),门槛为\(k/294\),没有合格位置,故不拒绝任何项。这些是同一p值向量的确定性计算;没有假设真伪信息,因而不能据此计算本次FDP。拒绝更多也不单独构成方法更优的结论,因为其错误率目标和依赖要求不同。

六项检验中p值与Holm、BH门槛纵轴为对数尺度。前三个p值通过Holm,第四个不通过;BH的最大合格位置为四。Bonferroni固定门槛只允许第一项通过。例1:门槛与已排序p值(纵轴为对数尺度)0.250.050.010.002BH门槛:取最大合格位置Holm门槛:首个失败即停止Bonferroni固定门槛圆点为p值123456横轴:排序位置;位于相应门槛以下表示通过该位置的比较
图18.6-1 精确门槛与例1给定p值的对数坐标图,折线只连接离散位置。Holm在位置4停止,BH选择位置4;图中未绘BY门槛,其计算见表18.6-1。

18.6.5 BY:任意依赖下的调和修正

定理18.6.4 Benjamini–Yekutieli方法

只要求真实原假设的p值超均匀,允许任意联合依赖。令\(H_m=\sum_{j=1}^m1/j\),把BH中的\(q\)换为\(q/H_m\),即使用门槛

\[\frac{kq}{mH_m},\qquad k=1,\ldots,m.\]
(18.6-9)

此BY方法满足\(\operatorname{FDR}\le m_0q/m\le q\)。修正通常降低拒绝数,但提供了不依赖联合分布形式的有限样本保证。

完整上界证明。先考察门槛为\(ka/m\)的BH,其中\(0<a<1\)。对一个真实原假设,若\(p_i\in((j-1)a/m,ja/m]\)且被拒绝,则由\(p_i\le Ra/m\)知\(R\ge j\)。因此该项对FDP的贡献不超过\(1/j\);若\(p_i>a\)则不会拒绝。令\(F_j=P(p_i\le ja/m)\),超均匀性给\(F_0=0\)、\(F_j\le ja/m\),故

\[E\left[\frac{\mathbf1_{\{i\text{被拒绝}\}}}{R\vee1}\right]\le\sum_{j=1}^m\frac{F_j-F_{j-1}}j=\frac{F_m}m+\sum_{j=1}^{m-1}F_j\left(\frac1j-\frac1{j+1}\right)\le\frac am H_m.\]
(18.6-10)

最后一步逐项使用非负系数与\(F_j\le ja/m\),其和为\((a/m)[1+\sum_{j=1}^{m-1}1/(j+1)]\)。注意超均匀并不保证每个小区间的概率都不超过区间长度,必须经由上述分部求和。对全部\(m_0\)项求和,再令\(a=q/H_m\),得到所述BY保证。整个证明没有条件独立步骤。证毕。原始依赖扩展与调和修正见文献[2]的定理1.3及其证明。

18.6.6 依赖反例与筛选后的假设族

例18.6.2 两个有效p值仍可使BH超出水平

两个原假设都真实,令\(0<q<2/3\),p值向量取四种互斥结果:\((q/2,1),(1,q/2),(q,q)\)各以概率\(q/2\)出现,\((1,1)\)以概率\(1-3q/2\)出现。每个边际分布都有

\[P(p_i\le t)=\begin{cases}0,&0\le t<q/2,\\q/2,&q/2\le t<q,\\q,&q\le t<1,\\1,&t=1,\end{cases}\]
(18.6-11)

各段均不超过\(t\),所以两个p值都有效。但它们不独立:例如\(P(p_1=q,p_2=q)=q/2\),而边际概率的乘积为\(q^2/4\)。

计算拒绝与错误率。BH的两个门槛为\(q/2,q\):前两种结果各拒绝一项,第三种拒绝两项,最后一种不拒绝。由于全部原假设真实,有拒绝就有FDP等于一,故

\[\operatorname{FDR}=\operatorname{FWER}=3q/2>q.\]
(18.6-12)

取\(q=0.05\)时是\(0.075\)。Holm以\(\alpha=0.05\)只在前两种结果中各拒绝一项,FWER恰为\(0.05\)。BY的\(H_2=3/2\)使门槛变为\(q/3,2q/3\),四种结果都不拒绝,因此FDR为零。本例是精确离散概率模型,证明“边际有效”不能替代BH的联合分布条件。

依赖p值使BH的FDR为0.075的四种结果目标0.05下,前三种互斥结果各有0.025概率且导致错误拒绝,最后一种有0.925概率且不拒绝。因此FDP期望为0.075。例2:所有原假设真实,目标FDR为 0.05A:p值向量 (0.025, 1)出现概率 0.025;BH拒绝 1 项FDP = 1B:p值向量 (1, 0.025)出现概率 0.025;BH拒绝 1 项FDP = 1C:p值向量 (0.05, 0.05)出现概率 0.025;BH拒绝 2 项FDP = 1D:p值向量 (1, 1)出现概率 0.925;BH不拒绝FDP = 0FDR = 0.025 × 1 + 0.025 × 1 + 0.025 × 1 + 0.925 × 0 = 0.075
图18.6-2 例2在\(q=0.05\)时的完整有限概率空间示意,四个结果互斥且穷尽,数字为精确概率,并非模拟频率。

假设族也不能在查看全部p值之后任意缩小。例如从\(M\)个独立均匀p值中挑最小者,再当作唯一检验的p值,其分布是

\[P(p_{\min}\le t)=1-(1-t)^M,\]
(18.6-13)

当\(M>1\)时它不满足超均匀性。对选出的一个数机械地用\(m=1\)校正,不能修复筛选带来的偏差。可对原先规定的完整假设族校正,也可用与筛选独立的新数据计算检验p值;后一做法仍需在给定筛选结果后核查p值有效性及所用方法的依赖条件。更多筛选后推断问题见23.4节关于模型选择后区间的讨论。

18.6.7 习题与完整解答

习题18.6-1 FDR不是每次实验的比例保证

证明\(\operatorname{FDR}\le\operatorname{FWER}\),说明全部原假设真实时何以相等。若FDR不超过\(0.05\),仅用Markov不等式能给\(P(\operatorname{FDP}>0.2)\)什么上界?

无错误拒绝时FDP为零;有错误拒绝时\(0<V/R\le1\),所以逐点\(\operatorname{FDP}\le\mathbf1_{V\ge1}\),取期望即得结论。全部原假设真实时,有拒绝即\(V=R\),故该不等式逐点成为等式。Markov给\(P(\operatorname{FDP}>0.2)\le E(\operatorname{FDP})/0.2\le0.25\)。这个上界并非\(0.05\),也说明FDR控制不直接提供指定水平的FDP高概率保证。

习题18.6-2 BH不能在第一次比较失败时停止

四个已排序p值为\((0.013,0.024,0.030,0.500)\),取\(\alpha=q=0.05\)。计算Bonferroni、Holm与BH的拒绝集合。

Bonferroni门槛为\(0.0125\),没有拒绝。Holm第一步也用\(0.0125\),因\(0.013>0.0125\)立即停止,没有拒绝。BH门槛依次为\(0.0125,0.025,0.0375,0.05\);位置1失败,位置2与3通过,位置4失败,所以最大合格位置为3,拒绝前三项。BH依据最终统一门槛\(3q/4=0.0375\)拒绝,不能把Holm的停止规则用于它。

习题18.6-3 精确计算真实原假设比例的因子

三项检验中前两项原假设不真实且p值恒为零,第三项原假设真实且\(U\sim\operatorname{Unif}(0,1)\)。BH目标为\(q\)。求FDR与FWER。

两个常数与\(U\)相互独立,真实p值均匀,满足定理条件。前两项一定拒绝,故\(R\ge2\)。第三项只有在\(U\le q\)时拒绝;此时\(R=3,V=1\),否则\(R=2,V=0\)。因此\(\operatorname{FDR}=q/3=m_0q/m\),而\(\operatorname{FWER}=q\)。它直接显示FDR中的随机分母作用,以及均匀真实p值时的等式因子。

习题18.6-4 筛选最小p值后重新计数

一百个原假设都真实,其p值独立均匀。若只报告最小p值并与\(0.05\)比较,FWER是多少?若保留原假设族并用Bonferroni,精确FWER又是多少?

未经校正的拒绝事件为至少一个p值不超过\(0.05\),故FWER为\(1-0.95^{100}\approx0.994079\)。Bonferroni对每项用\(0.05/100=0.0005\),独立性给精确FWER为\(1-0.9995^{100}\approx0.0487825\),也符合并集上界\(0.05\)。只把被报告的一项计入\(m\),忽略了选择过程;校正的对象应包含这一百次事先规定的检验。

关键术语

  • 假设族:共同纳入一次错误率控制的原假设集合。
  • 超均匀p值:真实原假设下分布函数不超过均匀分布函数的有效p值。
  • FWER:假设族中至少错误拒绝一项的概率。
  • FDP:一次实验中错误拒绝占全部拒绝的比例,无拒绝时为零。
  • FDR:FDP在数据分布下的期望。
  • 强FWER控制:对所有允许的原假设真伪配置控制FWER。
  • 逐步下降方法:按排序逐项比较并在首个失败处停止,如Holm。
  • 逐步上升方法:寻找最大合格排序位置并拒绝其前全部项,如BH与BY。
  • 留一法:将某p值置零,使相应拒绝数只依赖其余p值的证明构造。
  • 筛选后检验:根据数据选择待检验对象,再对所选对象进行推断。

参考文献

  1. Balakrishnan, S. (2019). CMU 36-705, Lecture 24: Holm’s Procedure and False Discovery Rate。大学官方讲义:Holm的任意依赖证明与BH留一法。本节将真实p值条件明确写为超均匀性,并给出等号情形。
  2. Benjamini, Y. and Yekutieli, D. (2001). The Control of the False Discovery Rate in Multiple Testing under Dependency, Annals of Statistics 29(4), 1165–1188。作者大学主页版本:定理1.3及第5节证明BY任意依赖保证;定理5.1讨论独立情形与离散p值。正依赖扩展不属于本节BH证明范围。