第21章 贝叶斯推断

Bayesian Inference

本章共5节。

本章导言

贝叶斯推断给参数指定先验,与条件数据模型共同形成联合分布,后验是给定数据后的条件分布。先验、似然、后验和后验预测承担不同角色;可信区间与频率置信区间也有不同的概率解释。

本章完整推导几个共轭模型,并用损失函数说明后验均值、中位数和分类规则各自的适用目标。层次模型与经验贝叶斯讨论部分汇聚及超参数不确定性;后验计算则调用第14章的模拟工具,区分计算误差、近似误差与模型不确定性。

先修知识与阅读方式

由16.1的模型和11.2的条件核进入21.1,再读21.2的共轭更新。21.3另接17.1的损失风险,与21.2并列;21.4利用这两条线研究层次模型。21.5的计算段补14.2–14.4,渐近近似段补19.3。本章基础可以与频率检验路线并行,不要求先读完回归。

可在全书学习路线核对先修内容。各节入口列出具体先修与阅读位置,全书依赖图区分主线、并列分支与技术延伸。各节注明完整证明、证明思路和引用定理的范围。

本章各节

  1. 21.1 先验、后验与预测分布
    Priors, Posteriors and Prediction
  2. 21.2 共轭模型与顺序更新
    Conjugate Models and Updating
  3. 21.3 损失函数与贝叶斯决策
    Loss Functions and Bayes Decisions
  4. 21.4 层次模型与经验贝叶斯
    Hierarchical and Empirical Bayes
  5. 21.5 后验计算、近似与诊断
    Posterior Computation and Approximation