上一节阐明了控制论的核心纲领：将动物与机器纳入统一的控制与通信框架进行研究。在工程控制与生物调节的真实场景中，系统往往面临初始状态不确定、系统参数存在摄动以及环境扰动不可完全预测的现实条件。因此，概率统计方法构成了控制论不可或缺的分析工具。本节系统讨论维纳如何将统计力学的世界观融入控制与通信理论。
维纳在《人有人的用处》（Wiener, 1950，序言与第二章）中详细阐述了这一物理学认识论转变：从经典决定论的力学世界观，转向基于系综、概率与信息熵的统计物理世界观，并揭示了信息在抵抗无序化趋势中的核心地位。
1.2.1 经典决定论的物理图像与测量极限
自十七世纪末牛顿建立力学体系至十九世纪末，经典物理学长期由机械决定论（mechanical determinism）所主导。在这一图景中，宇宙间所有物体的运动均严格遵从微分动力学定律：只要给定某一初始时刻的全部物理量，系统的未来状态便由演化方程严格决定（Wiener, 1950，序言）。拉普拉斯将这一思想推向了理论极致：若存在一个掌握无限计算能力的智能实体（后被称为“拉普拉斯妖”），获知某一瞬间宇宙中所有微观粒子的位置与动量，便能依据经典动力学定律推算出过去与未来的全部轨迹。
然而维纳指出，拉普拉斯决定论在实验物理学上存在不可逾越的认识论局限：任何真实的物理实验与仪器测量，其精度都不可避免地受限于有限的物理分辨率和环境热涨落，无法给出具有无限位有效数字的绝对精确值（Wiener, 1950，序言）。对于非线性动力学系统，即使微观演化方程是确定性的，由于初始条件测量误差的动态累积，确定性轨迹也无法支撑长期可预测性。因此，实验物理学家所实际掌握的初始条件，从来不是高维相空间中的一个理想几何单点，而是该点周围包含一定测量不确定性的相空间区域（即状态分布）。当初始条件只能以统计分布的形式给出时，物理学对系统未来演化的推断就必然转变为概率性的表述。
经典力学的测量局限并不依赖于微观量子力学的不确定性原理，而是宏观经典测量所固有的有限精度约束。就任意实际的动力学机器或生命系统而言，观测者所持有的初始信息始终是关于初始状态的某种概率分布。因此，工程控制与科学建模必须直面状态的不确定性与事件的统计随机性（contingency）。
1.2.2 统计力学的范式转变：从多粒子聚集到系统相空间分布
统计方法引入物理学起初见于麦克斯韦与早期玻尔兹曼关于气体动力论的研究。面对一摩尔气体中约 \(10^{23}\) 个微观分子，逐个追踪其动力学轨道在算力与观测上均不可行，统计方法由此作为处理海量粒子系统的唯象计算手段被引入（Wiener, 1950，序言）。在此阶段，统计学常被视作针对“极大粒子数目”的近似折中。
玻尔兹曼与吉布斯的突破在于完成了统计物理学的范式深化：统计方法不仅适用于微观粒子数极多的宏观多体系统，同样适用于自由度较少、甚至是单个质点在势场中的运动（Wiener, 1950，序言）。这一深化的核心，在于彻底改变了统计考察的对象：统计所研究的分布，不再是三维物理空间中大量相似粒子的几何分布，而是单个物理系统在相空间中一切可能初始状态的集合分布。
在牛顿力学体系下，系统在相空间中沿单一确定轨迹演化；而在吉布斯统计力学中，具有相同宏观约束（如总能量、体积）的系统不再以单条确定轨迹进入理论，而是以一族可能状态的几何测度集合（系综）进入理论框架。结合测量精度的有限性，物理学理论的关注重点从“某一确定初值下的必然轨迹”转向了“可能初态集合在相空间中的流动与弥散规律”。
1.2.3 吉布斯系综与遍历性：不确定性的形式化
吉布斯（J. Willard Gibbs, 1902）的理论贡献在于将这种基于可能性的思考方式形式化为统一的数学理论。理论的考察对象不再是“唯一的单一实际系统”，而是由宏观约束所规定的一族具有相同宏观性质的假想复制系统的集合（Wiener, 1950，序言）。理论的核心任务，是求解特定物理性质在系综中所占的统计测度与发生概率。
系综(ensemble)：在给定的宏观约束（如总能量 \(E\)、体积 \(V\)、粒子数 \(N\)）下，物理系统一切相容的微观状态构成的理想统计集合（Gibbs, 1902）。实际物理系统可被视作从该系综中依特定概率测度抽取出的一个样本实现。
在动力系统演化中，需要严格区分两种平均值：
- 有限时间平均：沿单条相空间轨线随时间的积分平均，定义为 \(\bar{A}_T = \frac{1}{T}\int_0^T A(q(t), p(t))\,dt\)；
- 系综统计平均：在相空间中对系统状态分布概率测度 \(\mu\) 的期望值，定义为 \(\langle A \rangle = \int A(q, p)\,d\mu\)（离散状态下为 \(\sum_i p_i A_i\)）。
若系统的动力学流保持测度 \(\mu\) 并且满足遍历性（即相空间中不存在非平凡的不变子集，使得两子集测度均非零且彼此不发生轨道交换），则由伯克霍夫遍历定理可知，当 \(T \to \infty\) 时，对几乎处处（almost everywhere）的初始状态，时间平均等于系综平均。然而在有限时间窗口内，两者通常并不相等；若系统存在能量之外的附加守恒量，系统将被限制在局部子流形中，遍历性将无法成立。
维纳在《人有人的用处》序言中，以“一个系统在长时间尺度下能够充分展现同类系统所构成的统计分布”来通俗阐释遍历性思想。在现代数学中，遍历性通过保测变换严格界定：系统无法在相空间中分解为两个测度非零且互不连通的不变子集。习题 1.2-1 给出了一个典型的非遍历物理反例：当多自由度系统存在额外的独立第一积分（额外守恒量）时，相轨道将被禁锢在局部子流形中，无法遍历整个等能面。
习题 1.2-1
考虑二维无耦合谐振子系统，哈密顿量为 \(H=\tfrac{1}{2}(p_1^2+p_2^2)+\tfrac{1}{2}(q_1^2+4q_2^2)\)，两振动自由度的固有频率之比为有理数 \(\omega_1:\omega_2=1:2\)。分析说明：能量为 \(E\) 的等能面是四维相空间中的三维紧致曲面，而系统的任意单条轨线均被限制在二维环面的一维闭合曲线上；因此系统在微正则系综下的遍历性不成立，并指出其数学根源。
参考解答由于系统哈密顿量无耦合交叉项，两个独立振动自由度的能量 \(E_1 = \tfrac{1}{2}(p_1^2+q_1^2)\) 与 \(E_2 = \tfrac{1}{2}(p_2^2+4q_2^2)\) 分别独立守恒，满足 \(E_1 + E_2 = E\)。这是系统在总能量守恒之外存在的附加独立第一积分。
由 \(E_1 = c_1\) 与 \(E_2 = c_2\) 的常数约束可知，相空间的实际运动区域被严格限制在二维环面（2-torus）上。进一步由于频率比 \(\omega_1:\omega_2 = 1:2\) 为严格有理数，当模态 1 振动一周时，模态 2 恰好完成两周振动，轨迹在环面上闭合为一条一维的利萨茹（Lissajous）曲线。
然而，由总能量确定的等能面 \(\{H=E\}\) 是四维相空间中的三维超曲面。在等能面上，\(E_1\) 可以在 \([0, E]\) 区间连续取任意值；例如子集 \(\{E_1 < E/2\}\) 及其补集是两个具有非零微正则测度且在哈密顿流下互不相通的不变子集。单条相轨迹无法跨越守恒壁垒访问其他能量配比的状态。因此，该系统在所选微正则系综上不满足遍历性。其本质根源在于附加动力学守恒量破坏了相空间的不可约性。
在二十世纪初，波莱尔与勒贝格建立的现代测度论（measure theory）为吉布斯系综的概率测度奠定了严格的数学基础。1920 年代，维纳创新性地将勒贝格测度论应用于连续随机过程，构造了布朗运动的函数空间测度（即维纳测度），首次严格证明了连续路径随机过程的概率存在性。这一工作直接架起了物理学统计力学、纯粹数学测度论与现代随机控制理论之间的坚实桥梁。
从认识论而言，物理学从而完成了一场深刻的范式转换：理论不仅能够处理决定性的必然事件，更能够严格量化并优化以压倒性概率发生的统计过程。在控制论中，面对非确定性环境的随机扰动与传感器噪声，控制策略正是通过这种统计框架来实现最优估计与纠偏控制。
1.2.4 熵增的宇宙，局部的岛屿
维纳用熵描述统计物理中的宏观演化趋势，并以此讨论组织的维持。这里先确定计数与概率分布的量度，再说明它们何时能表达热力学的熵增；不能把任意分布的熵都认作随时间自动增大的量。
对宏观孤立系统，第二定律给出热力学熵不减少的方向；封闭系统仍可与外界交换能量，其自身熵可以减小。还要区分宏观或粗粒描述与精确哈密顿演化：李乌维尔流保持相空间体积，相应细粒 Gibbs 熵守恒。宏观不可逆性不能只从式 (1.2-2) 的形式直接推出。
把这段话翻译成可计算的东西，靠的是两部前后相续的工作：1877 年，玻尔兹曼把宏观态的概率同与其相容的微观组态数联系起来；1902 年，吉布斯在《统计力学的基本原理》中把这套计数改写成系综上的分布，学科也以此书得名（Gibbs, 1902；von Plato, 1994）。
前一个式子把熵系于微观态计数，后一个直接系于系综上的分布。两者的悬殊见图 1.2-2 与习题 1.2-2：六十个分子的容器里，"全部挤在左半"与"左右各半"相差约十七个数量级；这是两种宏观态所含微观配置数的比较。
而自然界走向无序的这一统计趋势，即孤立系统中熵趋于增大的倾向，由热力学第二定律(second law of thermodynamics)来表达（Wiener, 1950，第二章）。作为人，我们不是孤立系统：从外界摄取产生能量的食物，更通过感觉器官摄取信息，并依据所接收的信息而行动（Wiener, 1950，第二章）。维纳把后一点看得比前一点更重——它是控制论的入口。
习题 1.2-2
容器被隔成左右相等的两半，内含 60 个独立运动的分子，每个分子处于任一半的概率为 \(1/2\)，以"左半分子数"标记宏观态。(1) 求全部 60 个分子都在左半的概率；(2) 求恰好 30—30 均分的微观态数与概率；(3) 用式 (1.2-1) 求均分态相对全左态的熵差（取 \(k=1.38\times10^{-23}\,\mathrm{J/K}\)），并折算为比特数；(4) 指出哪一档最可几、哪一档最不可几。
参考解答(1) 微观态总数 \(2^{60}=1.153\times10^{18}\)，全左只占其一，\(p=2^{-60}\approx 8.7\times10^{-19}\)。(2) \(W_{30}=\binom{60}{30}\approx 1.18\times10^{17}\)，\(p_{30}=W_{30}/2^{60}\approx 0.103\)。
(3) \(\Delta S=k\ln W_{30}=1.38\times10^{-23}\times\ln(1.18\times10^{17})=1.38\times10^{-23}\times 39.3\approx 5.4\times10^{-22}\,\mathrm{J/K}\)；折算比特 \(\log_2 W_{30}=39.3/\ln 2\approx 56.7\) 比特。
(4) 30—30 是最可几的一档，其邻近的 29—31 三档合计已约三成（\(p_{30}(1+2\times 30/31)\approx 0.30\)）；全左是最不可几的极端，与均分态之间隔着约 57 比特。这些数字比较的是配置数与熵差，不能证明任意初态必在有限时间恰好均分；实际运动仍取决于动力学。
麦克斯韦妖(Maxwell's demon)。温度处处相同的气体容器，壁上开两扇小门：一扇门通向去往热机的管道，另一扇门开在热机排气返回气室的管道上。每扇门旁驻一个小生灵，能注视迎面而来的分子，按速度开门闭门——一扇只放行快分子，另一扇只放行慢分子（Wiener, 1950，第二章）。维纳给过一个地铁版的类比：两个旋转栅门，一个只放奔跑的人，一个只放缓步的人，中间接上踏车，人群的乱转就被收集成能源。
结果是环路两端一热一冷：这样的热机不违背第一定律，却似乎凭空违背了第二定律，成了"第二类"永动机。十九世纪物理学破不了这个局，因为它默认获取信息不费分文。
维纳在 1950 年讨论的是一种光学测量方案：妖借助不与气体处于热平衡的光来观察分子；光源的作用也必须算入物理系统。这个历史解释说明测量装置需要建模，却不能概括所有获取信息的方式。
后来的可逆计算分析区分测量与擦除：测量原则上可可逆完成；让有限存储器反复回到标准状态时，逻辑不可逆的擦除才引入相应的熵代价。分析妖能否循环工作，须把存储器、热浴及其复位一起计入，不能一律把代价归到“看见”这一步（Bennett, 1982）。
在维纳讨论的光学方案中，测量分子状态需要从外部引入与气体不处于热平衡的光子源（Wiener, 1950，第二章）。维纳以此类比指出，地球表面的生命系统与控制系统正是处于这种非平衡稳态：地球持续接收来自太阳表面（约 5800 K）的高温低熵辐射，同时向外层冷黑宇宙空间（约 3 K）辐射低温红外光子（约 288 K）。这种跨越系统边界的净熵流排放，构成了生命有机体通过光合作用与新陈代谢在局部维持高度有序结构的热力学基础。
量子论与统计物理的进一步发展揭示了信息与能量的深层联系：虽然光场与物质的能量交换具有量子化特征，但微观测量本身并不必然伴随不可逆耗散；真正引入基本热力学代价的，是在有限物理存储器中擦除旧信息、重置系统状态的过程（Landauer 原理）。现代物理学严格证明，在温度为 \(T\) 的环境中擦除 1 比特信息，必然向环境耗散至少 \(k T \ln 2\) 的热量，从而完全捍卫了热力学第二定律（Bennett, 1982）。
因此，在一个孤立系统总熵单调递增的物理宇宙中，开放系统能够在特定的时空窗口内实现局部熵减（见图 1.2-4）。维纳指出，控制论关注的核心课题，正是这类局部有序系统通过何种机制实现自稳与持存。
这一物理规律不仅适用于生物体，同样严格适用于具有信息处理能力的人造机器：机器依据所采集的历史与实时测量信息，对外部扰动作出纠偏决策，从而在其控制边界内部维持特定的稳定组织形态（Wiener, 1950，第二章）。维纳特别指出，科学研究应避开关于“生命”或“机械”的形而上学本体论争议，转而关注其功能特征：在宏观总熵趋于增大的物理背景下，机器与生物体均代表着能够通过负反馈机制实现局部熵抑制的开放信息处理系统。
在控制论中，维纳将消息(message)界定为时间序列中呈现的结构模式，并以“负熵”概念定性讨论其抗无序特性。在定量信息论中，单个离散事件 \(m\) 所蕴含的不确定性程度由自信息(self-information)精确度量：
在严谨的学术表述中，必须明确区分热力学熵（表征微观相空间态数或热量耗散，量纲为 J/K）、香农信息熵（表征随机变量不确定性的统计期望，以比特为无量纲单位）与生物学中的结构复杂性。使用这些概念时，必须清晰界定系统边界、随机变量、概率测度与度量单位，避免将隐喻性的定性讨论混淆为严格的物理等价。
1.2.5 维纳控制论与香农信息论的统一数理根基
1948 年，维纳出版《控制论》；同年，克劳德·香农在《贝尔系统技术杂志》分期发表《通信的数学理论》（Shannon, 1948）。这两部奠基之作在数学上建立在共同的概率与测度论基础之上：均采用对数概率测度来量化信息的传递与消除（式 1.2-3）。
两者的理论侧重呈现出高度的互补性：
- 香农信息论：立足于通信工程通道的最优利用，核心回答在给定信道容量与噪声特性的条件下，消息能够以多大的最大速率进行无失真或保真度编码传输；
- 维纳控制论：立足于闭环反馈控制与动态抗扰，核心回答在输入信号与状态测量掺杂随机噪声的条件下，系统如何通过最优统计滤波与预测（维纳滤波），依据含噪消息驱动执行机构以维持局部秩序与稳定。
表 1.2-1 系统对比了牛顿经典决定论范式与吉布斯-维纳统计力学范式在核心概念上的对应关系。
| 范式维度 | 牛顿决定论力学 | 吉布斯统计物理与控制论 |
|---|---|---|
| 理论研究对象 | 单一实在宇宙中的确定轨迹 | 宏观约束下的一族可能世界（系综） |
| 初始条件表述 | 相空间中的理想几何单点 | 相空间中可能初始状态的概率分布测度 |
| 理论输出形态 | 严格必然的因果断言 | 宏观状态的统计期望与发生概率 |
| 不确定性本质 | 假定可完全消除的外部扰动 | 测量精度受限与系统演化的内禀随机性 |
| 控制与消息作用 | 外力做功改变系统运动轨迹 | 通过信息反馈消除状态不确定性并维持负熵 |
习题 1.2-3
依据自信息定义式 (1.2-3) 计算下列离散事件的信息量：
(1) 在 4 个等概率出现的备选消息中，接收到其中某一个特定消息；
(2) 独立抛掷一枚均匀硬币 4 次，将完整的正反面序列（例如“正反正反”）作为一条特定消息接收；
(3) 仅接收到“4 次抛掷中恰好出现 2 次正面、2 次反面（不计出现次序）”这一宏观事件；
(4) 对比 (2) 与 (3) 的计算结果，说明“事件发生的先验概率越大，其所提供的信息量越小”的信息论含义。
(1) 先验概率 \(p = 1/4\)，自信息量 \(I = -\log_2(1/4) = \log_2 4 = 2\) 比特。
(2) 4 次抛掷共有 \(2^4 = 16\) 种等可能的微观序列，任一特定完整序列的概率为 \(p = (1/2)^4 = 1/16\)。因此自信息量为 \(I = -\log_2(1/16) = 4\) 比特。
(3) “恰好两正两反”的可能排列数为组合数 \(\binom{4}{2} = \frac{4\times 3}{2\times 1} = 6\) 种。因此该事件的先验概率为 \(p = 6/16 = 3/8\)。其自信息量为：
\(I = -\log_2(3/8) = \log_2(8/3) = 3 - \log_2 3 \approx 3 - 1.5850 = 1.415\) 比特。
(4) 比较可知，宏观事件“恰好两正两反”包含了 16 种微观可能中的 6 种，其发生概率（\(3/8\)）是单条微观序列概率（\(1/16\)）的 6 倍；然而获知该事件发生后所提供的信息量仅为约 1.42 比特，远小于单条特定序列的 4 比特。这严格体现了信息论的基本法则：一个事件越常见、先验不确定性越小，获知其发生所能消除的不确定性就越少，因此其自信息量越小。
在明确了统计力学与概率测度的基本概念后，控制论面临的下一步任务是：如何在数学上建立一套不依赖具体材料基底的抽象模型，形式化描述所有可能机器的状态与变换规律。阿什比在《控制论导论》中开创了这一工作，下一节将详细解读他的“机器的几何学”方法论宣言。
关键术语
- 偶然性 (contingency)
- 本节沿维纳使用的历史术语，指需以概率讨论的不确定性；概率描述本身不证明底层动力学非决定性。
- 系综 (ensemble)
- 给定宏观约束下一族"心理复制品"式可能初态的集合；理论的断言对象是系综上的分布而非单条轨迹。
- 遍历 (ergodic)
- 相对于给定不变概率测度不存在非平凡不变分解的性质；对可积观测量，长期时间平均几乎处处等于系综平均。
- 统计力学 (statistical mechanics)
- 吉布斯 1902 年著作所确立的学科：把力学系统当作系综上的分布来作统计处理。
- 测度论 (measure theory)
- 给集合赋予"大小"（测度）并据此重建积分的数学理论；为系综概率提供严格语言。
- 微观态 (microstate)
- 与宏观条件相容的一种完备分子位形；宏观态的权重等于其微观态计数。
- 熵 (entropy)
- 由微观态计数或概率分布定义的量；宏观热力学熵增与细粒 Gibbs 熵的守恒须依模型区分。
- 热力学第二定律 (second law of thermodynamics)
- 宏观孤立系统的熵不减少；非孤立系统须同时计算与环境交换的熵及内部熵产生。
- 麦克斯韦妖 (Maxwell's demon)
- 按分子速度选择性开门、在均温气体中制造温差的假想小生灵；完整循环须计入测量、记录、存储器复位与环境。
- 热寂 (heat death)
- 宇宙归于温度均衡、不再发生真正新事的终极平衡图景。
- 消息 (message)
- 时间中的事件序列，自身携带模式与组织，是对抗熵增的手段。
- 信息 (information)
- 本节的事件自信息为消息概率的负对数；对分布取平均得到熵，不直接度量语义。
参考文献与延伸阅读
- Wiener N. 1950. The Human Use of Human Beings: Cybernetics and Society. Houghton Mifflin（1954 修订版 Doubleday 为通行本）.
- Wiener N. 1948. Cybernetics, or Control and Communication in the Animal and the Machine. The Technology Press / John Wiley & Sons.
- Shannon CE. 1948. A mathematical theory of communication. Bell System Technical Journal 27:379–423, 623–656.
- Gibbs JW. 1902. Elementary Principles in Statistical Mechanics. Charles Scribner's Sons.
- von Plato J. 1994. Creating Modern Probability: Its Mathematics, Physics and Philosophy in Historical Perspective. Cambridge University Press.
- Uffink J. 2007. Compendium of the foundations of classical statistical physics. In: Butterfield J, Earman J (eds.). Philosophy of Physics, Part B. Elsevier: 923–1047.
- Bennett CH. 1982. The thermodynamics of computation—a review. International Journal of Theoretical Physics.
- Tong D. Statistical Physics: The Fundamentals of Statistical Mechanics. University of Cambridge lecture notes.