主要先修：10.4 特征函数与分布的唯一性、11.1 相对于信息的条件期望、16.3 充分统计量与因子分解。
在充分性之后引入指数族、完全性和辅助统计量，为17.3的无偏最优性与18.3的条件检验提供结构；它与16.2的精确分布工具线分别承担不同任务。 查看全书依赖图与分支路线。
16.4.1 规范指数族与自然参数域
充分性说明哪些统计量保留了模型的参数信息。指数族提供一类能够系统寻找充分统计量的模型。以下固定样本空间，取共同的支配测度\(\nu\)；计数模型可用计数测度，连续模型可用勒贝格测度。
设\(h\ge0\)及\(T:\mathcal X\to\mathbb R^d\)可测，\(d\)固定，密度写为
\(\eta\)称为自然参数，\(A\)称为对数配分函数。自然参数域为\(\mathcal N=\{\eta:0<\int h e^{\eta^{\mathsf T}T}d\nu<\infty\}\)，实际模型的参数集合\(\Xi\)可以是它的子集。
这里\(h\)不依赖参数，所有有限自然参数下的密度在\(\{h>0\}\)上都为正。参数依赖的支持限制不能任意收入\(h\)。因子分解立即给出\(T\)充分；若观测为iid且单个观测的自然统计量为\(t(X_i)\)，全样本的统计量为\(\sum_i t(X_i)\)，对数配分函数则为单个观测的\(n\)倍。
由Hölder不等式，\(A\)与\(\mathcal N\)具有凸性。在\(\mathcal N\)的内部，局部指数矩有限，能够控制积分中一、二阶导数，从而合法交换微分与积分：
导数计算与条件。取\(\eta\)附近完全包含于\(\mathcal N\)的小立方体。多项式因子\(|T_j|\)和\(|T_jT_k|\)乘以指数后，可由立方体更外层各顶点的有限指数积分控制；控制收敛允许求导。对\(e^A\)求一次导数并除以\(e^A\)得到均值；再求一次导数得到二阶矩减均值外积。更完整的积分换序论证见文献[1]。这些式子按自然参数求导，不能直接把\(A(\eta(\theta))\)对任意原参数\(\theta\)的导数当作均值。
| 模型 | 自然参数 | 全样本统计量 | 全样本对数配分函数 |
|---|---|---|---|
| 伯努利\((p),\ 0<p<1\) | \(\eta=\log[p/(1-p)]\) | \(\sum X_i\) | \(n\log(1+e^\eta)\) |
| 泊松\((\lambda),\ \lambda>0\) | \(\eta=\log\lambda\) | \(\sum X_i\) | \(ne^\eta\) |
| 正态\((\mu,\sigma^2),\ \sigma^2>0\) | \((\mu/\sigma^2,-1/(2\sigma^2))\) | \((\sum X_i,\sum X_i^2)\) | \(n\{-\eta_1^2/(4\eta_2)+\tfrac12\log[\pi/(-\eta_2)]\}\) |
表中正态模型采用\(h=1\)及全样本勒贝格测度，因此其自然参数域是\(\mathbb R\times(-\infty,0)\)。改变基准密度会改变\(A\)的表达式；应始终把\(h,T,\eta,A\)作为同一套表示核对。
16.4.2 完全性及其与充分性的区别
对模型\(\{P_\theta:\theta\in\Theta\}\)，若每个可测函数\(g\)满足\(E_\theta|g(T)|<\infty\)及\(E_\theta g(T)=0\)对全部\(\theta\)成立时，必有
则称\(T\)完全。若只要求对有界可测\(g\)具有该性质，称为有界完全。
关键量词是“对全部参数均值为零”。在一个指定分布下均值为零的随机变量很多，这不构成完全性。它约束的是统计量分布族，和“条件分布不依赖参数”的充分性是不同性质。常数统计量总是完全，却通常不充分；保留全部数据总是充分，也未必完全。
若\(a(T),b(T)\)都可积，且对全部参数具有相同期望，完全性作用于\(g=a-b\)，便得到两者在每个模型分布下几乎必然相等。因此完全统计量的函数中，给定目标的无偏估计至多有一个。它没有宣称所有无偏估计都必须是\(T\)的函数；这一点将在无偏最优估计中继续处理。
16.4.3 伯努利与泊松的直接完全性证明
设\(n\ge1\)固定，\(X_i\)iid服从伯努利\((p)\)，\(p\in(0,1)\)。求充分统计量、均值方差，并证明其完全。
解。联合质量函数为\(p^S(1-p)^{n-S}\)，其中\(S=\sum_iX_i\)，所以\(S\)充分且服从二项分布。式(16.4-2)给出\(E_pS=np\)、\(\operatorname{Var}_p(S)=np(1-p)\)。
完全性证明。若\(E_pg(S)=0\)对全部\(p\)成立，除以正数\((1-p)^n\)并置\(z=p/(1-p)\)，得到
多项式在区间上恒为零，全部系数为零。因此\(g(k)=0\)对\(k=0,\ldots,n\)成立，这些点在每个\(p\in(0,1)\)下都有正概率，故完全性得证。
例如\(n=3,p=0.2\)，均值为\(0.6\)、方差为\(0.48\)；完全性检验仍须使用整个\(p\in(0,1)\)族，而非只用这一次取值。
设\(X_i\)iid服从泊松\((\lambda)\)，\(\lambda>0\)。联合质量函数为\(e^{-n\lambda}\lambda^S/\prod_iX_i!\)，故\(S\)充分，并有\(S\sim\operatorname{Pois}(n\lambda)\)、\(ES=\operatorname{Var}(S)=n\lambda\)。
完全性证明。若\(E_\lambda|g(S)|<\infty\)且均值恒为零，令\(t=n\lambda\)：
对每个固定\(t_0>0\)该级数绝对收敛。令\(t\downarrow0\)，由\(0<t\le t_0\)下绝对可求和的控制，得\(g(0)=0\)。假设已知前\(m\)个系数为零，则\(F(t)/t^m\)等于从\(k=m\)起的级数；各项被\(|g(k)|t_0^{k-m}/k!\)控制。再令\(t\downarrow0\)，得到\(g(m)/m!=0\)。归纳给出全部\(g(k)=0\)，因此完全。这里的可积性正是控制级数极限所需的条件。
取\(n=4,\lambda=2\)，\(S\)均值方差均为\(8\)，\(S/4\)无偏估计\(\lambda\)且方差为\(1/2\)；完全性保证具有同一期望的其他可积\(S\)函数与它几乎必然相同。
16.4.4 开参数集的定理与曲指数族
在式(16.4-1)的共同支配表示下，若实际自然参数集合\(\Xi\subseteq\mathbb R^d\)包含非空开集，则\(T\)完全且充分。
证明，调用拉普拉斯变换唯一性。充分性已由因子分解得到。取\(\eta_0\)为\(\Xi\)内点，记\(Q=P_{\eta_0}^T\)。假设\(g(T)\)在全部模型下可积、均值零。分解\(g=g^+-g^-\)，令\(c=\int g^+dQ=\int g^-dQ\)。若\(c=0\)，已得\(g=0\)。若\(c>0\)，则\(g^+/c\)与\(g^-/c\)是相对于\(Q\)的两个概率密度。对足够小的\(u\)，指数倾斜给出
同一恒等式作用于\(|g|\)保证这些积分绝对有限。两概率测度的矩母函数在零点邻域相同；由拉普拉斯变换唯一性，它们相等，所以\(g^+=g^-\)，而正、负部分不同时为正，只能都为零。各\(P_\eta^T\)彼此等价，故结论传到整个模型。此处调用一维矩母函数唯一性；多元版本可对每个线性投影使用一维结论，再由特征函数唯一性识别联合分布。本节不重复一维唯一性引理的分析证明；文献[2–3]给出同一完全性证明方法。
开集条件是一条充分条件，不是完全性的必要条件。它也不同于“原参数可在区间取值”：若一个标量参数被映到二维曲线上，自然参数集合仍可能没有二维内点。支持改变的均匀端点族须用另一种论证，不能套本定理；曲指数族是否完全也需要单独检查。
16.4.5 辅助统计量与Basu定理
统计量\(V(X)\)的整个分布若对模型的全部\(\theta\)相同，则称它辅助。只证明均值不变不够；也不能使用未知参数计算它，否则未必是统计量。
若\(T\)相对于同一个模型完全且充分，\(V\)相对于该模型辅助，则在每个\(P_\theta\)下，\(T\)与\(V\)独立。以下采用共同条件核的充分性定义，例如标准Borel样本空间上的通常支配模型。
证明。固定\(V\)状态空间的可测集\(B\)。辅助性使\(a_B=P_\theta(V\in B)\)为常数；充分性使\(q_B(T)=E_\theta[\mathbf1_{V\in B}\mid T]\)可取一个共同的不含参数版本。它们有界，由塔式性质，
完全性推出\(q_B(T)=a_B\)在每个\(P_\theta\)下几乎必然。对任意\(T\)状态空间的可测集\(C\)，
这就是独立性。证明实际只用了有界完全性；对每个\(B,C\)分别应用等式即可，不需把不可数多个零测集合并。证毕。
16.4.6 正态位置族中的残差
设\(n\ge2\)，\(X_i\)iid服从\(N(\mu,\sigma^2)\)，固定已知\(\sigma>0\)，唯一未知参数为\(\mu\in\mathbb R\)。证明\(\bar X\)与整个残差向量\(R=(X_i-\bar X)_i\)独立。
解。把密度写成\(\eta=\mu/\sigma^2\)的一参数指数族，统计量\(\sum X_i\)，自然参数集合为\(\mathbb R\)。定理16.4.3给出其完全充分性；可逆缩放不改变性质，故\(\bar X\)也完全充分。写\(X_i=\mu+\sigma Z_i\)，其中\(Z_i\)iid标准正态，则
整个向量的分布不含\(\mu\)，所以辅助。Basu给出\(\bar X\perp R\)，因而它也独立于\(S^2=\|R\|^2/(n-1)\)。残差坐标之和为零，彼此通常相关；这不影响它与均值独立。7.7节的正交证明还给出\((n-1)S^2/\sigma^2\sim\chi^2_{n-1}\)。
若把\((\mu,\sigma^2)\)都视为未知参数，原残差的分布依赖\(\sigma\)，便不再相对于整个模型辅助。但对每个固定\(\sigma\)的子模型，上述独立性均成立，故得到每一组\((\mu,\sigma^2)\)下的独立结论。辅助性、充分性和完全性都要相对于参数族判断；独立性则在指定分布下判断。
16.4.7 习题与完整解答
习题16.4-1 限制参数会改变完全性吗
对单个\(X\sim\operatorname{Bernoulli}(p)\)，比较\(p\in(0,1)\)与仅有\(p=1/2\)两个模型。统计量\(T=X\)是否完全？
区间参数下，零均值条件为\(g(0)(1-p)+g(1)p=0\)对全部\(p\)成立。比较常数项与一次项得\(g(0)=g(1)=0\)，所以完全。单点模型中取\(g(X)=X-1/2\)，均值为零但两个可能值都不为零，因此不完全。两个模型中\(X\)都充分，这也说明充分性不蕴含完全性。
习题16.4-2 泊松平方参数的无偏估计
在例2中构造只依赖\(S\)的\(\lambda^2\)无偏估计，证明唯一性；在\(n=4,\lambda=2\)时求其方差。
令\(t=n\lambda\)。对泊松变量，直接将质量函数的\(k(k-1)\)与\(k!\)约去可得\(E[S(S-1)]=t^2\)，故\(S(S-1)/n^2\)无偏。任何其他可积\(S\)函数若对所有\(\lambda>0\)也无偏，与它的差均值恒零；完全性使两者几乎必然相同。令\((S)_j=S(S-1)\cdots(S-j+1)\)，恒等式\((S)_2^2=(S)_4+4(S)_3+2(S)_2\)及\(E(S)_j=t^j\)给出方差\((4t^3+2t^2)/n^4\)。代入\(t=8,n=4\)得到\(8.5\)。
习题16.4-3 残差坐标相互独立吗
在已知方差的正态位置族中取\(n=3,\sigma^2=4\)。计算\(R_1\)方差和\(R_1,R_2\)协方差、相关系数，说明Basu结论针对哪些变量。
由式(16.4-9)，每个残差方差为\(4(1-1/3)=8/3\)，不同坐标协方差为\(-4/3\)，相关系数为\(-1/2\)，所以坐标不独立。残差向量的协方差秩为\(2\)，符合\(R_1+R_2+R_3=0\)的约束。Basu保证\(\bar X\)与整个\(R\)独立，不保证辅助统计量内部各分量独立。
习题16.4-4 曲指数族中的不完全统计量
设\(n\ge2\)，\(X_i\)iid服从\(N(\mu,\mu^2)\)，\(\mu>0\)。证明\(T=(\sum X_i,\sum X_i^2)\)充分但不完全。
正态密度的指数含\((1/\mu)\sum X_i-(1/(2\mu^2))\sum X_i^2\)，因子分解保证充分。自然参数却落在\(\eta_2=-\eta_1^2/2,\eta_1>0\)上，不能直接使用开集定理。设\(S^2=(n-1)^{-1}\sum(X_i-\bar X)^2\)，取\(g(T)=S^2-\frac n{n+1}\bar X^2\)。因为\(ES^2=\mu^2\)且\(E\bar X^2=\mu^2(1+1/n)\)，它在整个模型中均值零。它是非零多项式：全样本相等且非零时其值为负，均值零但残差不全为零时其值为正。这些取值的邻域在非退化正态模型下都有正概率，故\(g(T)\)不几乎必然为零，完全性失败。
关键术语
- 规范指数族：参数通过自然参数与统计量的内积进入指数。
- 自然参数域：基准密度能够归一化的全部自然参数。
- 对数配分函数：归一化积分的对数，其导数在内部给出矩。
- 完全性：整个分布族中零均值的可积统计量函数只能几乎必然为零。
- 有界完全：只对有界函数要求完全性。
- 辅助统计量：其整个分布不随模型参数变化。
- 曲指数族：自然参数被限制在较低维曲线或曲面等集合上。
- Basu定理：同一模型的完全充分统计量与辅助统计量独立。
参考文献
- Fithian, W. (2023). Berkeley Stat 210A, Exponential Families。作者的大学课程讲义：规范表示、自然参数域、矩与对数配分函数的导数；积分内求导的技术条件另引Keener教材。
- Berkeley Stat 210A (2024). Completeness, Ancillarity, and Basu’s Theorem。官方课程读本：开自然参数集的完全性、拉普拉斯变换唯一性证明与Basu条件概率证明。
- Mackey, L. (2015). Stanford STATS 300A, Lecture 4, Completeness and Ancillarity。官方讲义：完全性、辅助性、Basu定理及正态模型应用。