主要先修：6.6 顺序统计量、10.7 正则变化与重尾的矩条件、19.1 随机阶与渐近展开、19.8 幂律模型的拟合、检验与比较
本节属于幂律与重尾专题路线；精确 Gamma 与卡方区间可回看 5.6 节及 7.7 节的分布工具。具体用途与证明范围见正文。
19.9.1 Hill 估计的是哪个指数
19.8 节讨论了在指定尾部模型下估计、检验与比较。本节进一步允许尾部只在无穷远处近似幂律。假设 \(X_1,\ldots,X_n\) 为正值 iid 观测，右尾满足10.7 节的正则变化条件；按从小到大排列为 \(X_{(1)}\le\cdots\le X_{(n)}\)。给定整数 \(1\le k<n\)，以第 \(n-k\) 个顺序统计量为阈值：
\(\alpha\) 是本书的尾指数，\(\xi\) 是极值指数。Hill 统计量 \(H_{k,n}\) 直接估计 \(\xi\)，当 \(H_{k,n}>0\) 时其倒数才估计 \(\alpha\)。下文常简写为 \(H_k\)。
式中有 \(k\) 个最高观测，但阈值是它们之外的一个顺序统计量；因此公式不能将 \(u_k\) 换成 \(X_{(n-k+1)}\) 后继续使用同一个 \(k\)。严格连续模型几乎必然没有并列值，故这 \(k\) 个观测都严格超过 \(u_k\)。若主体允许非正值，Hill 公式仍可用于正的最高观测，但必须确保阈值严格为正；正则变化右尾下，后文的中间序列使这一事件的概率趋于一。
它使用比值的对数，数据单位变化会在分子与分母中抵消。较大的 \(\xi\) 对应较小的 \(\alpha\)，表示较慢的尾概率衰减。与均值或标准差的估计相比，Hill 估计只使用样本上端；即使原始变量没有有限均值，也可以在相应尾部假设下估计指数。
19.9.2 严格帕累托下的精确分布
先给出一个能够完整证明的有限样本结论。假设全部观测服从下限 \(x_{\min}>0\)、尾指数 \(\alpha>0\) 的连续帕累托分布。这里的 \(k\) 必须在看数据之前确定，且 \(1\le k<n\)；阈值 \(u_k\) 自身仍然随机。
Gamma 的第一个参数为形状，第二个参数为尺度。结论对每个允许的 \(n,k\) 精确成立，不是将一般尾部近似当作等式。
证明。令 \(Y_i=\log(X_i/x_{\min})\)。帕累托尾概率给出 \(P(Y_i>y)=e^{-\alpha y}\) 对 \(y\ge0\) 成立，所以 \(Y_i\) iid 且服从率参数为 \(\alpha\) 的指数分布。记 \(Y_{(0)}=0\)、\(D_i=Y_{(i)}-Y_{(i-1)}\)。顺序统计量的联合密度为 \(n!\alpha^n\exp(-\alpha\sum_i y_i)\)，定义域是 \(0<y_1<\cdots<y_n\)。变换到正的间距 \(d_i\) 后，Jacobian 为一，并且
乘积分解证明间距彼此独立，且 \(D_i\) 的率参数为 \((n-i+1)\alpha\)。从阈值到第一个最高观测的间距出现于 \(k\) 项中，下一个间距出现于 \(k-1\) 项中，依此类推。因此
这些加权间距独立同分布，均值为 \(1/\alpha=\xi\)。其和为形状 \(k\)、尺度 \(\xi\) 的 Gamma 变量，均值与方差除以相应的 \(k\) 次幂后得到式 (19.9-2)。证明没有把相对于同一个随机阈值的各个对数比值当作独立变量；独立性属于加权间距。证毕。
19.9.3 精确区间与倒数估计的偏差
由 Gamma 与卡方分布的关系，严格帕累托模型提供一个精确枢轴量。令 \(c_p\) 为自由度 \(2k\) 的卡方分布的 \(p\) 分位数，\(0<\eta<1\)，则
两个区间的覆盖概率均为 \(1-\eta\)。倒数变换会交换区间端点。若看过 Hill 图后选择一个使结果符合预期的 \(k\)，以上关于固定 \(k\) 的覆盖论证不能直接用于最终选出的随机 \(k\)；选择步骤必须另作分析。
虽然 \(H_k\) 对 \(\xi\) 无偏，但取倒数不会保持无偏。由 Gamma 密度积分可得
当 \(k=1\) 时，倒数估计的期望无穷，不能使用式 (19.9-6) 的有限均值表达式。这个有限样本修正依赖严格帕累托模型；一般正则变化尾部还存在慢变化因子所产生的偏差，乘上 \((k-1)/k\) 不会将它全部消除。
19.9.4 一阶正则变化给出一致性
一般尾部模型没有精确的指数间距分解。让尾部近似逐渐准确需要阈值升高，但提高阈值也减少可用观测。形式上令 \(k=k_n\) 为确定的整数序列，满足
这称为中间序列：使用的最高观测数增长，占总样本的比例却趋于零。固定 \(k\) 会保留不消失的随机波动；固定正比例的 \(k/n\) 则可能让阈值一直位于尚不能用幂律描述的主体区域。
对于正值 iid 样本，若右尾正则变化，尾指数 \(\alpha>0\)，且确定的 \(k_n\) 满足式 (19.9-7)，则
第一项为参考文献 [1] Theorem 3.2.2；第二项由正极限 \(\xi\) 处的连续映射定理得到。若离散或舍入样本产生 \(H_k=0\)，倒数可在该事件上约定为任意固定值；第一项保证其概率趋于零，故不影响一致性。一般模型证明需处理随机阈值与尾部积分的一致控制，本节引用该长证明；上面的严格帕累托有限样本证明不替代它。
一致性没有指定误差必须以 \(1/\sqrt{k_n}\) 衰减，也没有给出正态置信区间。仅有一阶尾比极限不能控制慢变化因子逼近极限的速度。在严格帕累托模型下，式 (19.9-2) 的方差已经说明只要 \(k_n\to\infty\) 就可一致估计 \(\xi\)，无需额外让 \(k_n/n\to0\)；这一更强的特例不能直接推广到未知主体的一般模型。
19.9.5 二阶条件与不能删去的渐近偏差
用尾部分位数表达逼近速度更方便。定义广义逆 \(F^{-1}(p)=\inf\{x:F(x)\ge p\}\)，以及
在正则变化尾部下，尾部分位数的正则变化指数为 \(\xi=1/\alpha\)。接下来的条件记录这个比值离极限还有多远。
设 \(\rho\le0\)，函数 \(A(t)\to0\) 最终非零、符号固定，并且 \(|A|\) 正则变化，指数为 \(\rho\)。假设对每个 \(x>0\) 有
辅助函数 \(A\) 的规范由右侧固定，不能任意改变它的比例而仍使用同一个偏差系数。二阶参数 \(\rho\) 与尾指数 \(\alpha\)、极值指数 \(\xi\) 是不同参数。
保持 iid、\(\xi>0\)、确定中间序列，并假设式 (19.9-10) 成立。若 \(\sqrt{k_n}A(n/k_n)\to\lambda\in\mathbb R\)，则
这是参考文献 [1] Theorem 3.2.5。其证明需二阶一致估计及随机阈值控制，本节引用证明。严格帕累托的二阶误差恒为零，可单独由指数变量 CLT 得到零均值正态极限，无需将恒零函数 \(A\) 代入定义 (19.9-10) 的分母。
当 \(\lambda=0\) 时，极限以零为中心，常用标准误估计为 \(H_k/\sqrt k\)。当 \(\lambda\ne0\) 时，偏差与随机误差处于同一量级，不能仍声称围绕真值的零均值正态近似。由19.1 节的 Delta 方法，倒数估计满足
有时用下面的量表达偏差与方差的权衡：
这是由渐近随机规模与二阶修正构成的近似准则；式 (19.9-11) 本身不保证真实均方误差等于它，也不保证期望收敛。扩大 \(k\) 使随机波动规模减小，却降低阈值，通常增加尾部近似误差。估计 \(A,\rho\) 并构造数据驱动的选择规则，需要额外方法与相应理论。
19.9.6 手算例与 Hill 图的用途
人为给定已排序的五个数 \(1,2,4,8,16\)，取 \(k=2\)。阈值是 \(X_{(3)}=4\)，参与计算的是 \(8,16\)，故
前一个数估计极值指数 \(\xi\)，后一个数估计尾指数 \(\alpha\)。改取其他 \(k\) 时，阈值依次为 \(8,4,2,1\)。每个对数比值都是 \(\log2\) 的整数倍，求和得到
| 最高观测数 \(k\) | 阈值 \(u_k\) | Hill 值 \(H_k\) | 尾指数估计 \(1/H_k\) |
|---|---|---|---|
| 1 | 8 | 0.69314718 | 1.44269504 |
| 2 | 4 | 1.03972077 | 0.96179669 |
| 3 | 2 | 1.38629436 | 0.72134752 |
| 4 | 1 | 1.73286795 | 0.57707802 |
这些数用于演示公式，没有声称它们来自帕累托抽样，也没有据此检验真实幂律。仅改变 \(k\) 就改变点估计；从有限的五个数也无法核实中间序列或二阶条件。
假设一个严格连续帕累托抽样实验取 \(n=100\)，分析前指定 \(k=10\)，观察到 \(H_{10}=0.5\)。这是用于区间计算的假设实验，未报告外部数据。点估计为 \(\widehat\alpha=2\)，有限样本无偏修正为 \(9/(10\times0.5)=1.8\)。对百分之九十五置信水平，使用自由度二十的卡方分位数 \(c_{0.025}\approx9.59077739\)、\(c_{0.975}\approx34.16960690\)，且 \(2kH_k=10\)，得到
区间并不窄，虽然总样本数有一百，直接参与尾部估计的仅有十个观测。这个覆盖结论使用严格帕累托与预定 \(k\)；不能在未知尾部的样本中选完阈值以后照搬“精确”二字。近似标准误 \(0.5/\sqrt{10}\approx0.15811388\) 可显示随机规模，但小样本正态区间并不等于这里的 Gamma 枢轴区间。
实际分析可先规定合理的 \(k\) 范围，绘制 Hill 图及估计的不确定性，再报告多个阈值下的变化，并结合19.8 节的拟合检验与模型比较。邻近 \(k\) 的点由同一批观测计算，彼此相关；平坦区间还可能由舍入、截断或少数观测结构造成。模型支持、阈值敏感性与估计精度应分别报告。
有时间依赖的数据必须另查依赖条件，iid 定理的方差不能默认保留。缺失最大值、上端截断与删失会改变尾部可见范围；粗舍入和并列值会使严格连续模型的精确间距证明失效。遇到这些情况应按采样或测量机制修改模型，不能通过平移数据或随意删除并列值补救。尾指数估计通向极端分位数外推时，还需要控制外推距离；19.10 节介绍 Weissman 估计及阈值超越模型。
19.9.7 习题与解答
习题 19.9-1 单位变化与平移
题目。证明 Hill 统计量对乘以正数的单位变化不变，却一般不具有平移不变性。用例 19.9.1 的 \(k=1\) 验证。
解答。若每个观测乘以 \(a>0\)，排序保持不变，阈值也乘以 \(a\)，所以每个比值中的 \(a\) 抵消。若加上 \(b\)，排序虽然保持，分子和分母中的 \(b\) 无法约去：
例中的最高两个数为十六与八，原值为 \(\log2\)。全部加一后变为 \(\log(17/9)\approx0.63598877\)，与 \(\log2\approx0.69314718\) 不同。因此改变计量单位不影响 Hill 值，为使数据为正而任意加常数却会改变它；二者不能混为同一种处理。
习题 19.9-2 倒数期望与二阶矩
题目。严格帕累托模型下，令 \(T=kH_k\)。从 Gamma 密度证明式 (19.9-6)，并判断 \(\widehat\alpha=1/H_k\) 的方差何时有限。
解答。\(T\) 的密度为 \(t^{k-1}e^{-t/\xi}/(\Gamma(k)\xi^k)\)，\(t>0\)。当 \(k>m\) 时，对 \(t^{-m}\) 乘密度积分，再换元 \(s=t/\xi\)，得到
取 \(m=1\) 后乘以 \(k\)，得到 \(E[\widehat\alpha]=k\alpha/(k-1)\)，再乘 \((k-1)/k\) 即得无偏修正。取 \(m=2\) 得到二阶矩，再减去均值平方得到上式。若 \(k\le m\)，密度乘 \(t^{-m}\) 在零附近的幂次至多为负一次，积分发散。故 \(k=1\) 连均值也无穷，\(k=2\) 有限均值但二阶矩无穷，只有 \(k>2\) 才有有限方差。
习题 19.9-3 哪些选择是中间序列
题目。比较 \(k_n=10\)、\(k_n=\lfloor\sqrt n\rfloor\)、\(k_n=\lfloor n/5\rfloor\)。这些选择是否满足一般正则变化模型的一致性定理？严格帕累托是否有不同结论？只讨论充分大的 \(n\)。
解答。第一种有 \(k_n/n\to0\)，却没有 \(k_n\to\infty\)；第二种同时满足两条件；第三种虽趋于无穷，占比却趋于五分之一。因此只有第二种满足引用定理的中间序列假设。对于第一种，严格帕累托下的 \(H_{10,n}\) 始终具有同一个非退化 Gamma 缩放分布，故不可能依概率趋于常数 \(\xi\)。第三种在严格帕累托中却能借助有限样本方差收敛：
这使用了严格模型从下限起就处处成立的条件。一般模型在固定占比处尚有主体误差，不能用这一特例替换中间序列要求；也不能仅因定理不适用就断言每个分布必然不一致。
习题 19.9-4 二阶模型决定允许的增长速度
题目。考虑合法的尾部分位数 \(U(t)=\sqrt t+1/\sqrt t\)，\(t>1\)。证明它满足 \(\xi=1/2\)、\(\rho=-1\)、\(A(t)=-1/(t+1)\) 的二阶条件。令 \(k_n=\lfloor n^a\rfloor\)，\(0<a<1\)，讨论式 (19.9-11) 的偏差条件。
解答。\(U\) 在 \(t>1\) 上严格递增，从二趋于无穷，因此定义了支持在二以上的连续分布的尾部分位数。直接除法可得
等式精确给出二阶极限，且 \(A(t)\to0\)、\(|A|\) 的正则变化指数为负一。各个 \(0<a<1\) 都满足中间序列，但二阶误差的标准化尺度为
若 \(a<2/3\)，极限为零，Hill 的标准化正态极限均值为零。若 \(a=2/3\)，则 \(\lambda=-1\)，极限均值为 \(-1/(1-(-1))=-1/2\)，方差为 \(1/4\)。若 \(a>2/3\)，该量趋于负无穷，不满足引用定理的有限 \(\lambda\) 条件。一致性仍由一阶定理保证，但这一围绕真值、以平方根观测数标准化的有限均值正态结论不能直接使用。
关键术语
- 尾指数：\(\alpha>0\)，右尾衰减的幂次。
- 极值指数：本节重尾情形中 \(\xi=1/\alpha>0\)。
- Hill 估计：最高 \(k\) 个观测与随机阈值之比的平均对数，直接估计 \(\xi\)。
- 指数间距：指数样本相邻顺序统计量之差；适当加权后可成为独立同分布变量。
- 中间序列：\(k_n\to\infty\) 且 \(k_n/n\to0\) 的确定整数序列。
- 二阶正则变化：刻画尾部分位数缩放比逼近极限的速度与形式。
- 辅助函数：二阶条件中的 \(A(t)\)，控制渐近偏差规模。
- Hill 图：估计值随 \(k\) 的变化图，用于阈值敏感性诊断。
- 阈值选择：在尾部近似误差、随机波动及采样机制之间决定使用范围。
参考文献
- de Haan, L. & Ferreira, A. (2006). Extreme Value Theory: An Introduction. Springer. 第 3.2 节：Theorem 3.2.2 为 Hill 弱一致性，Theorem 3.2.5 为二阶条件下的渐近正态性。本节引用一般模型长证明，独立证明严格帕累托的有限样本结果。出版社图书页。
- Hill, B. M. (1975). A Simple General Approach to Inference About the Tail of a Distribution. The Annals of Statistics, 3(5), 1163–1174. Hill 方法的原始论文。论文 DOI。
- Resnick, S. I. (2007). Heavy-Tail Phenomena: Probabilistic and Statistical Modeling. Springer. 极值统计、Hill 图与尾部诊断。出版社图书页。
- Nair, J., Wierman, A. & Zwart, B. (2022). The Fundamentals of Heavy Tails: Properties, Emergence, and Estimation. Cambridge University Press. 重尾参数估计及识别方法。出版社 DOI。