本章导言
回归描述给定设计或特征后的响应分布。本章先以固定满秩设计建立最小二乘投影，分别证明不需要正态性的无偏与Gauss–Markov结论，以及高斯误差下的精确t、F推断。系数、均值响应和未来观测的目标须分别处理。
异方差和相关误差改变协方差计算；广义线性模型通过指数族与连接函数描述二元和计数响应。预测与正则化处理偏差、方差和调参，而多元正态、Wishart与主成分分析把这些工具延伸到向量数据。维数、秩和样本量条件会直接影响哪些推断能够使用。
先修知识与阅读方式
需要线性代数中的投影、谱分解与正定矩阵。统计基础后即可读20.1→20.2，其有限样本结论无需先完成19章。GLS接20.1；HC渐近补10.6与19.1；GLM渐近推断接19.3。预测正则化20.5与多元统计20.6各自分支，PCA一致性补10.5。
可在全书学习路线核对先修内容。各节入口列出具体先修与阅读位置，全书依赖图区分主线、并列分支与技术延伸。各节注明完整证明、证明思路和引用定理的范围。
本章各节
- 20.1 线性回归与Gauss–Markov定理
Linear Regression and Gauss–Markov - 20.2 高斯线性模型的精确推断
Exact Inference in Gaussian Linear Models - 20.3 异方差、相关误差与稳健标准误
Heteroskedasticity and Robust Standard Errors - 20.4 广义线性模型
Generalized Linear Models - 20.5 预测、正则化与模型选择
Prediction, Regularization and Model Selection - 20.6 多元正态、Wishart与主成分
Multivariate Normal Inference and PCA