3.3.1 持续传输与非确定变换
在 3.2 节中，对多样性传输的数学分析主要限定在少数离散时钟步数之内。然而，现实世界中的生命神经传导与工程通信线路所面对的情境要广阔得多：坐骨神经中的动作电位脉冲串流、跨洋海底电缆中的载波信号，均处于昼夜不息的连续运转之中。阿什比将这种在时间流逝中永不终止的信息流动称为持续传输（Incessant Transmission）（Ashby, 1956, S.9/1）。
持续传输在动力学理论上提出了一个根本性的挑战：系统如何能够在无限的时间跨度中，持续不断地向信道输出新的、无法被接收端完全预先确知的信息？考察任意一台自主的（即无外部输入干预的）、状态空间有限的确定性机器：由于其状态总数 \(n\) 是有限的，依据抽屉原理，该机器在至多历经 \(n\) 个时钟步之后，必然重新访问某个此前曾经出现过的历史状态；而根据单值变换的确定性公理，相同的当前状态必然唯一导出相同的后继状态，因此该系统的未来轨迹将不可避免地陷入永恒重复的极限环（周期振荡）之中（Ashby, 1956, S.4/5, S.9/2）。一旦机器进入闭合周期，接收端只要观测到一个完整周期的状态，后续所有的输出序列便被完全确定，系统在条件意义上不再产生任何新的不确定性消除，多样性传输随之停滞。
因此，若要在离散模型中真实描述持续传输的不确定性源泉，控制论必须在方法论上迈出关键一步——放宽对转移变换的严格“单值”限制，引入概率测度。系统不再保证在某一操作数下必定变向唯一的固定后继状态，而是允许存在多个潜在的可能后继状态，并为每一个可能转移赋予明确的概率权重。当这些转移概率不随绝对物理时间而漂移时，系统所执行的动力学映射被称为随机变换（Stochastic Transformation）（Ashby, 1956, S.9/2）。
最基础的随机变换原型是一维受控随机游走。设系统状态方程为 \(x_{t+1} = x_t + a_t\)，其中参数 \(a_t\) 由一枚独立抛掷的均匀硬币决定：若出现正面（H），则取 \(a_t = 1\)；若出现反面（T），则取 \(a_t = 0\)。若系统从初态 \(x_0 = 4\) 出发，抛币序列 T, T, H, H, H, T, H, T, T, H 将驱动系统生成状态轨迹：4, 4, 4, 5, 6, 7, 7, 8, 8, 8, 9；而另一组不同的抽样序列将诱导出完全不同的轨迹（Ashby, 1956, S.9/2）。在随机变换下，初始状态与动力学方程不再唯一定出单条确定的轨迹线，而是确定了所有可能轨迹所构成的统计系综及其测度分布。
将上述随机变换整理为矩阵形式，表 3.3-1 给出了该随机游走的一步转移概率矩阵：每一列至多包含两个非零元素，各自占据 \(1/2\) 的概率权重。
| 下一状态 \(X_{t+1} \downarrow\) | 当前状态 3 | 当前状态 4 | 当前状态 5 | 当前状态 6 | …… |
|---|---|---|---|---|---|
| 3 | 1/2 | 0 | 0 | 0 | … |
| 4 | 1/2 | 1/2 | 0 | 0 | … |
| 5 | 0 | 1/2 | 1/2 | 0 | … |
| 6 | 0 | 0 | 1/2 | 1/2 | … |
| …… | … | … | … | … | … |
在控制论认识论中，概率陈述始终坚持操作主义与经验频数检验立场（Ashby, 1956, S.9/2）。断言“状态 \(i\) 转移至状态 \(j\) 的概率为 \(p\)”，在经验上意味着当系统反复多次经过状态 \(i\) 时，转移至 \(j\) 的相对频数随着样本量的增长按概率收敛于 \(p\)。必须严格指出：有限长度观测记录中所呈现的频数起伏属于统计抽样波动，频数的高度稳定能够有力支持模型满足时间齐次性的假设，但在有限样本下不能作为概率恒定不变的纯数学演绎证明。
当系统状态空间为有限离散集合 \(\{1, 2, \ldots, n\}\) 时，随机系统的单步演化规则由转移概率矩阵（Matrix of Transition Probabilities）\(M = (m_{ji})\) 完备表述。在阿什比与控制论文献的标准约定中，矩阵元素采用“列代表当前状态、行代表下一状态”的约定，满足列随机性：
确定性机器在这一数学格式中表现为平凡的退化极限。式 (3.3-2) 展示了一个三状态随机矩阵与确定性单值变换矩阵的连续过渡：只需将非确定概率参数 \(\varepsilon \to 0\)，随机矩阵便严格收敛至具有确定性转移轨迹的置换算子（Ashby, 1956, S.9/3）。因此，确定性动力学并非与随机理论对立，而是概率测度完全集中于 0 与 1 两极的特殊情况。
3.3.2 马尔可夫链与转移矩阵
为了具体考察状态序列在随机约束下的动态演化，阿什比提出了一个经典的生物生态学范例：设有一只两栖昆虫生活在浅水池塘环境中，其活动范围被离散划分为三个空间区域：岸上（Bank, \(B\)）、水中（Water, \(W\)）与石子下方（Pebble, \(P\)）（Ashby, 1956, S.9/4）。昆虫的生理本能与微观环境扰动决定了其在三个区域间的移动规律，表 3.3-2 给出了该系统的转移概率矩阵。
| 下一位置 \(X_{t+1} \downarrow\) | 当前位置 \(B\)（岸上） | 当前位置 \(W\)（水中） | 当前位置 \(P\)（石下） |
|---|---|---|---|
| \(B\)（岸上） | 1/4 | 3/4 | 1/8 |
| \(W\)（水中） | 3/4 | 0 | 3/4 |
| \(P\)（石下） | 0 | 1/4 | 1/8 |
马尔可夫链(Markov chain)：一个离散时间与离散状态的随机过程 \(\{X_t\}_{t \in \mathbb{N}}\)，若其满足无后效性（Markov property）：即在已知当前时刻状态 \(X_t\) 的条件下，系统在未来时刻 \(X_{t+1}\) 所处状态的条件概率分布，与系统在过去的全部历史状态 \(\{X_{t-1}, X_{t-2}, \ldots, X_0\}\) 相互独立： \[ P(X_{t+1} = j \mid X_t = i, X_{t-1} = i_{t-1}, \ldots, X_0 = i_0) = P(X_{t+1} = j \mid X_t = i) \] 若条件概率分布不随时间步数 \(t\) 改变，则称该链为时间齐次马尔可夫链。初始概率分布 \(\pi^{(0)}\) 与时间齐次转移矩阵 \(M\) 共同在测度意义上唯一规定了该随机过程（Markov, 1913）。
仅仅通过研读转移概率矩阵的内部数值结构，控制论学者便能深入洞察系统的宏观动态趋向，尽管矩阵无法给出任何一条具体的确定性单步轨迹（Ashby, 1956, S.9/5）：
- 在水中状态 \(W\) 列中，转移到水自身的对角元概率为 0（\(m_{WW} = 0\)），而转移到岸上的概率高达 \(m_{BW} = 3/4\)：这意味着昆虫绝不会在水中长期停留，一旦入水，下一步绝大多数情况下选择爬上岸；
- 在岸上状态 \(B\) 列中，再次留岸的概率仅为 \(1/4\)，而重新入水的概率高达 \(m_{WB} = 3/4\)；
- 在石下状态 \(P\) 列中，留在石下的概率仅为 \(1/8\)，而直接游入水中的概率高达 \(3/4\)。
基于上述概率拓扑，可以严谨推断：该昆虫在宏观上将绝大部分生命周期耗费在“岸上 \(\leftrightarrow\) 水中”的高频振荡迁徙之中，呆在石子下方的概率极小。图 3.3-1 将该矩阵映射为直观的加权运动学有向图。
转移矩阵甚至能够精确识别出系统的空间拓扑陷阱与排斥边界（Ashby, 1956, S.9/5）。考察一只苍蝇在房间四角 \(A, B, C, D\) 飞动的马尔可夫模型（表 3.3-3）：
| 下一位置 \(X_{t+1} \downarrow\) | 当前位置 \(A\) | 当前位置 \(B\) | 当前位置 \(C\) | 当前位置 \(D\) |
|---|---|---|---|---|
| \(A\) | 1/2 | 0 | 0 | 1/3 |
| \(B\) | 1/4 | 1 | 0 | 1/3 |
| \(C\) | 1/4 | 0 | 1/2 | 1/3 |
| \(D\) | 0 | 0 | 1/2 | 0 |
在表 3.3-3 中，状态 \(B\) 列下仅有 \(m_{BB} = 1\)：这意味着一旦苍蝇落入区域 \(B\)，它便永远无法离开——该区域在物理上必定对应着一张具有强力粘性的捕蝇纸（吸收态，Absorbing State）；而在状态 \(D\) 列中，对角自保持概率严格为 0，且系统全局仅有状态 \(C\) 能以 \(1/2\) 的概率偶尔跃迁至 \(D\)——该区域在物理上必然对应着灼热的火炉表面，任何碰触都将立即引发强烈的排斥性逃逸。马尔可夫转移矩阵本身，构成了对系统物理环境特征的完备拓扑映射。
习题 3.3-1
时间序列记录的马尔可夫转移概率最大似然估计：某二状态离散系统连续观测获得了包含 50 次状态跃迁的原始记录（共计 51 个符号）：
A B A B B B A B A A B A B A B A B B B B A B A A B A B B A A B A B B A B A A A B A B B A A B B A B B A
（1）基于时间齐次一阶马尔可夫假设，统计所有状态对 \((X_t, X_{t+1})\) 的转移频数，计算极大似然估计转移概率矩阵；
（2）检验估计矩阵是否严格满足列随机性公理；
（3）阐明有限观测样本的统计波动对转移概率推断的局限性。
（1）逐对频数统计与概率估计： 对 50 次相继转移逐对扫描：
- 从状态 \(A\) 发出的转移：后继为 \(A\)（即 \(A \to A\)）共出现 6 次；后继为 \(B\)（即 \(A \to B\)）共出现 17 次。从 \(A\) 发出的总时步数为 \(N_A = 6 + 17 = 23\) 次；
- 从状态 \(B\) 发出的转移：后继为 \(A\)（即 \(B \to A\)）共出现 17 次；后继为 \(B\)（即 \(B \to B\)）共出现 10 次。从 \(B\) 发出的总时步数为 \(N_B = 17 + 10 = 27\) 次。
采用极大似然估计量 \(\hat{m}_{ji} = N_{ij} / N_i\)，得出转移概率矩阵的经验估计： \[ \hat{M} = \begin{pmatrix} \hat{m}_{AA} & \hat{m}_{AB} \\ \hat{m}_{BA} & \hat{m}_{BB} \end{pmatrix} = \begin{pmatrix} 6/23 & 17/27 \\ 17/23 & 10/27 \end{pmatrix} \approx \begin{pmatrix} 0.2609 & 0.6296 \\ 0.7391 & 0.3704 \end{pmatrix} \]
（2）列随机性检验： 第一列代数和：\(6/23 + 17/23 = 23/23 = 1.0\)；第二列代数和：\(17/27 + 10/27 = 27/27 = 1.0\)。矩阵元素均非负且每列之和精确为 1，严格满足随机矩阵公理。
（3）统计推断的局限性：所得估计矩阵是建立在“系统满足时间齐次性与一阶马尔可夫性”的先验模型假定之下的经验近似。在有限样本（50 次跃迁）中，经验转移频数必然伴随着抽样方差波动（其置信区间宽度与 \(1/\sqrt{N}\) 成比例）。短序列中得到的频数仅能作为对生成规律的统计估计，不能作为系统内部状态转移机制完全不随时间改变或完全不依赖更早历史的绝对数学证据；要确证马尔可夫性，还需对更高阶的历史依赖进行严格的卡方拟合优度检验或似然比检验（见 3.3.4 节）。
3.3.3 分布的演化与平衡
在建立马尔可夫链之后，控制论的核心任务是研究概率测度分布随时间的演化法则。设想一个包含 \(N\) 个相互独立的昆虫个体的庞大群体，所有个体均独立按照表 3.3-2 的转移规则在三个区域间迁徙。记 \(d_B(t), d_W(t), d_P(t)\) 分别为在时刻 \(t\) 处于岸上、水中与石下的期望个体数（满足 \(d_B + d_W + d_P = N\)）。
由于处于水中的个体有 \(3/4\) 的概率在下一步爬上岸，处于石下的个体有 \(1/8\) 的概率上岸，处于岸上的个体有 \(1/4\) 的概率留岸，根据期望算子的线性性质，下一时刻岸上个体数的期望值严格为各贡献项的代数和。将三式并列：
若将群体分布排成列向量 \(D(t) = (d_B(t), d_W(t), d_P(t))^\top\)，演化方程可极为紧凑地写为一阶离散线性动力学系统：
设在初始时刻 \(t=0\)，实验者将全部 100 只昆虫同时放置于石子下方，初始分布向量为 \(D(0) = (0, 0, 100)^\top\)。代入式 (3.3-4) 逐步演算：在第一步，分布迅速发散至 \((12.5, 75, 12.5)^\top\)；在第二步，演变为 \((60.94, 18.75, 20.31)^\top\)。图 3.3-2 完整绘制了系统前十二步的动态演化轨迹。显而易见，各区域的期望个体数经历了几轮逐渐衰减的阻尼振荡，最终精确收敛于一个不再随时间发生变化的定常宏观向量 \((44.9, 42.9, 12.2)^\top\)。
当系统达到该渐近定态时，即使微观个体依然在各个状态之间剧烈转移，宏观上的概率分布却不再随时间产生任何变化。在统计物理与控制论中，这被称为系统的统计定态（Steady State）或平衡分布（Equilibrium Distribution，亦称平稳分布 Stationary Distribution）。平稳分布 \(\pi\) 形式化定义为满足下列不变特征方程的非平凡归一化概率向量：
求解平稳平衡分布的线性代数解法（Ashby, 1956, S.9/6）：
方程组 \(M \pi = \pi\) 在代数上为 \((M - I)\pi = 0\)。由于 \(\sum_j m_{ji} = 1\)，矩阵 \(M - I\) 的各列元素代数和恒为 0，因而不满秩（秩至多为 \(n-1\)），方程组中存在一个冗余方程。
（1）从 \(n\) 个平衡方程中任意划去一行（例如第一行）；
（2）补入全概率归一化约束方程 \(\sum_i \pi_i = 1\)；
（3）联立求解此时满秩的 \(n\) 阶非齐次线性方程组。
对表 3.3-2 的昆虫系统联立求解，精确得出平稳概率向量为：
\[ \pi = \left( \frac{22}{49}, \; \frac{21}{49}, \; \frac{6}{49} \right)^\top \approx (0.44898, \; 0.42857, \; 0.12245)^\top \]
对应 100 只昆虫的平衡期望人数严格约为 \((44.9, 42.9, 12.2)^\top\)。石下区域的长期占有率仅为约 12.2%，与 3.3.2 节的定性分析完全吻合。
必须将此处马尔可夫链的遍历收敛性与群体遗传学中的有限群体遗传漂变（Genetic Drift）严格区分开来。在群体遗传学经典的中性赖特–费希尔模型（Wright–Fisher model）中，状态被定义为包含 \(N\) 个二倍体个体的封闭群体中某特定等位基因的拷贝数 \(K_t \in \{0, 1, \ldots, 2N\}\)（Wright, 1931; Berwick, 2005）。下一代拷贝数服从二项抽样分布 \(K_{t+1} \mid K_t = i \sim \operatorname{Binom}(2N, i/(2N))\)。尽管等位基因频率的数学期望保持中性守恒（\(\mathbb{E}[K_{t+1}/2N \mid K_t] = K_t/2N\)），但由于状态 0（基因彻底丢失）与状态 \(2N\)（基因完全固定）构成了吸收边界（Absorbing states），有限群体的实际轨迹必然在有限时间内不可逆地漂移碰撞至 0 或 \(2N\)，导致系统多样性彻底归零。而本节的昆虫马尔可夫链属于不可约、非周期的遍历链（Ergodic Chain），不存在吸收边界，系统永恒保持状态的动态遍历，各状态在平衡态下的发生概率保持严格为正。
习题 3.3-2
三状态遍历马尔可夫系统的动力学演化与平稳分布计算：某离散控制系统具有三状态 \(\{A, B, C\}\)，其单步转移概率矩阵 \(M\) 规定如下：
状态 \(A\) 列为 \((1/2, 1/2, 0)^\top\)；状态 \(B\) 列为 \((1/3, 1/3, 1/3)^\top\)；状态 \(C\) 列为 \((0, 1/2, 1/2)^\top\)。设该系统包含 700 台相互独立的运行副本。
（1）验证该矩阵满足列随机性公理；
（2）设全机组初始配置为 \(D(0) = (700, 0, 0)^\top\)，计算系统在一步转移后与两步转移后的期望分布向量 \(D(1)\) 与 \(D(2)\)；
（3）运用不变特征方程精确求解系统的平稳概率分布 \(\pi\) 与平稳期望分布向量 \(D^*\)，并进行代数验证。
（1）公理验证： 转移矩阵形式为： \[ M = \begin{pmatrix} 1/2 & 1/3 & 0 \\ 1/2 & 1/3 & 1/2 \\ 0 & 1/3 & 1/2 \end{pmatrix} \] 各元素均满足 \(m_{ji} \ge 0\)。检查各列之和： 第一列：\(1/2 + 1/2 + 0 = 1\)；第二列：\(1/3 + 1/3 + 1/3 = 1\)；第三列：\(0 + 1/2 + 1/2 = 1\)。每列代数和严格为 1，随机矩阵合法。
（2）动态步进演算： 第一步期望分布： \[ D(1) = M D(0) = \begin{pmatrix} 1/2 & 1/3 & 0 \\ 1/2 & 1/3 & 1/2 \\ 0 & 1/3 & 1/2 \end{pmatrix} \begin{pmatrix} 700 \\ 0 \\ 0 \end{pmatrix} = \begin{pmatrix} 350 \\ 350 \\ 0 \end{pmatrix} \] 第二步期望分布： \[ D(2) = M D(1) = \begin{pmatrix} 1/2 & 1/3 & 0 \\ 1/2 & 1/3 & 1/2 \\ 0 & 1/3 & 1/2 \end{pmatrix} \begin{pmatrix} 350 \\ 350 \\ 0 \end{pmatrix} = \begin{pmatrix} \frac{350}{2} + \frac{350}{3} + 0 \\ \frac{350}{2} + \frac{350}{3} + 0 \\ 0 + \frac{350}{3} + 0 \end{pmatrix} = \begin{pmatrix} 875/3 \\ 875/3 \\ 350/3 \end{pmatrix} \approx \begin{pmatrix} 291.67 \\ 291.67 \\ 116.67 \end{pmatrix} \] 数值总和核验：\(875/3 + 875/3 + 350/3 = 2100/3 = 700\)，守恒成立。
（3）平稳分布求解与验证：
设平稳期望分布向量为 \(D^* = (a, b, c)^\top\)。展开特征方程 \(M D^* = D^*\)：
\[ \begin{cases} \tfrac{1}{2}a + \tfrac{1}{3}b = a \implies \tfrac{1}{3}b = \tfrac{1}{2}a \implies a = \tfrac{2}{3}b \\ \tfrac{1}{2}a + \tfrac{1}{3}b + \tfrac{1}{2}c = b \\ \tfrac{1}{3}b + \tfrac{1}{2}c = c \implies \tfrac{1}{3}b = \tfrac{1}{2}c \implies c = \tfrac{2}{3}b \end{cases} \]
由对称性得出 \(a = c = \tfrac{2}{3}b\)。代入总数守恒约束 \(a + b + c = 700\)：
\[ \tfrac{2}{3}b + b + \tfrac{2}{3}b = 700 \implies \tfrac{7}{3}b = 700 \implies b = 300 \]
进而解得 \(a = 200, c = 200\)。
平稳期望分布向量为 \(D^* = (200, 300, 200)^\top\)。归一化得出平稳概率向量为：
\[ \pi = \left( \frac{2}{7}, \; \frac{3}{7}, \; \frac{2}{7} \right)^\top \approx (0.2857, \; 0.4286, \; 0.2857)^\top \]
代入第二行方程验证：\(\tfrac{1}{2}(200) + \tfrac{1}{3}(300) + \tfrac{1}{2}(200) = 100 + 100 + 100 = 300 = b\)，等式完全成立。
3.3.4 链上的约束：字母与声母
在 3.1 节中，对约束的讨论主要聚焦于“某些状态组合被完全排除（概率为 0）”。而在马尔可夫随机链中，约束展现出更为细腻与丰富的连续形态：某些状态跃迁发生的概率极高，而另一些跃迁虽然允许发生但概率极低。此时，完全无约束的极端基准模型是均匀随机转移矩阵（Uniform Transition Matrix）——即在任意当前状态下，系统以严格相等的概率 \(1/n\) 跃迁至所有可能状态（Ashby, 1956, S.9/10）。在均匀矩阵中，下一状态完全独立于当前状态，链条不表现出任何时序约束。
然而，人类自然语言的符号序列展现出极强的时序马尔可夫约束。这一统计视角的历史开创者正是安德烈·马尔可夫（A. A. Markov）本人。1913 年，马尔可夫为了反驳当时神学与唯心主义学者关于“大数定律仅仅适用于独立随机事件”的狭隘论调，以普希金的长篇诗体小说《叶甫盖尼·奥涅金》（Eugene Onegin）开篇两万个俄文字母作为统计样本，将所有字母简化归类为“元音（Vowel）”与“辅音（Consonant）”两个互斥状态，首次建立了二阶状态转移矩阵（Markov, 1913）。统计结果震撼了学术界：俄语文本中元音紧跟在元音之后的条件概率，显著且系统性地低于辅音之后出现元音的概率——语言序列的生成强烈依赖于前一个音节状态，在随机链条上打上了深刻的生理发音与语法约束。
这一约束结构在汉语语音系统中表现得尤为典型。表 3.3-4 构建了一个基于汉语音节构词规律的声母类别转移简化模型。
汉语音节声母类别的时序约束模型：在汉语语音学中，双声联绵词（如“仿佛”、“吩咐”、“忐忑”、“伶俐”、“坎坷”）普遍表现出相邻音节声母发音部位趋同的生理协同发音偏好。将普通话声母按发音部位粗粒化划分为三大互斥类别：双唇/唇齿音 \(B\)（b, p, m, f）、舌尖/舌面音 \(D\)（d, t, n, l 及 zh, ch, sh, r, z, c, s, j, q, x）与舌根音 \(G\)（g, k, h）。表 3.3-4 给出了一个反映双声倾向的教学假定转移矩阵。
| 下一音节声母类别 \(X_{t+1} \downarrow\) | 前一音节唇音 \(B\) | 前一音节舌尖音 \(D\) | 前一音节舌根音 \(G\) |
|---|---|---|---|
| 唇音 \(B\) | 0.5 | 0.2 | 0.1 |
| 舌尖音 \(D\) | 0.3 | 0.6 | 0.3 |
| 舌根音 \(G\) | 0.2 | 0.2 | 0.6 |
从表 3.3-4 可以清楚地看到：对角线元素（0.5, 0.6, 0.6）显著高于非对角元素，说明系统具有强烈的状态自相关性。运用 3.3.3 节的代数解法求解该矩阵的平稳分布，解得 \(\pi = (5/21, 9/21, 7/21)^\top \approx (0.238, 0.429, 0.333)^\top\)。舌尖与舌面音在长期语言流中占据了超过 42% 的绝对主导地位，而唇音仅占不到 24%。图 3.3-3 对比了均匀转移矩阵与该非均匀声母转移矩阵的热力概率分布。
习题 3.3-3
马尔可夫阶数假设检验与高阶历史依赖识别：现有某二状态离散系统输出的 32 符号时序观测记录：
A A B B A B B A A B B A B B A B B A B B A A B B A B B A B A B A
（1）基于一阶马尔可夫假设，统计所有单步转移频数，计算一阶经验转移矩阵；
（2）为了检验一阶无后效性假设是否成立，将当前状态为 \(B\) 的所有转移根据其前一步的历史符号，严格划分为“前序为 \(A\)（即 \(\ldots AB\)）”与“前序为 \(B\)（即 \(\ldots BB\)）”两个互斥条件，分别统计两组条件下的后继转移频数；
（3）对比两组条件概率，说明为何该统计事实构成了拒绝一阶马尔可夫假设的显著证据；并指出严格统计推断所需的方案。
（1）一阶经验转移矩阵： 在总共 31 次连续转移中统计：
- 从 \(A\) 出发：\(A \to A\) 共 3 次；\(A \to B\) 共 10 次，合计 \(N_A = 13\) 次；
- 从 \(B\) 出发：\(B \to A\) 共 10 次；\(B \to B\) 共 8 次，合计 \(N_B = 18\) 次。
（2）二阶条件转移频数统计： 对当前处于状态 \(B\) 的 18 次历史进行上下文细分：
- 前序为 \(A\)（即三元组序列 \(AB?\)）：在序列中，\(ABA\) 出现 2 次，\(ABB\) 出现 8 次。由此，经验条件转移概率为： \[ \hat{P}(X_{t+1}=A \mid X_t=B, X_{t-1}=A) = \frac{2}{10} = 0.20, \quad \hat{P}(X_{t+1}=B \mid X_t=B, X_{t-1}=A) = \frac{8}{10} = 0.80 \]
- 前序为 \(B\)（即三元组序列 \(BB?\)）：在序列中，\(BBA\) 出现 8 次，\(BBB\) 出现 0 次。由此，经验条件转移概率为： \[ \hat{P}(X_{t+1}=A \mid X_t=B, X_{t-1}=B) = \frac{8}{8} = 1.00, \quad \hat{P}(X_{t+1}=B \mid X_t=B, X_{t-1}=B) = \frac{0}{8} = 0.00 \]
（3）统计检验与结论分析：
若系统真实满足一阶马尔可夫性，则由无后效性公理，给定当前状态 \(X_t = B\) 时，下一状态的条件概率必须严格独立于更早历史：
\[ P(X_{t+1}=A \mid X_t=B, X_{t-1}=A) \equiv P(X_{t+1}=A \mid X_t=B, X_{t-1}=B) = P(X_{t+1}=A \mid X_t=B) \]
然而统计事实显示：在 \(AB\) 之后转移为 \(A\) 的频数仅为 20%，而在 \(BB\) 之后转移为 \(A\) 的频数高达 100%（出现了绝对确定性转移）。两组条件概率出现剧烈分化，表明当前系统的转移严重依赖于前两步的历史信息，一阶马尔可夫模型在此完全失效。
在严格推断中，应当构建二阶马尔可夫零假设对一阶的原假设建立似然比统计量检验（Likelihood Ratio Test），或运用赤池信息准则（AIC）进行模型阶数选择，确证该差异在统计学上显著超越抽样方差水平（Ashby, 1956, S.9/7）。
3.3.5 记忆与重编码
习题 3.3-3 的分析表明，真实系统所展现的时序相关性往往超越了最简单的一阶无后效性假设，系统似乎拥有“记忆（Memory）”，能够跨越多个时钟步回溯更早的历史状态。然而，在控制论形式化理论中，面对拥有 \(k\) 阶历史依赖的复杂系统，并不需要颠覆马尔可夫链的数学基石；相反，只需运用第二章建立的状态向量空间概念，执行状态重编码（State Recoding）（Ashby, 1956, S.9/8）。
设某一二状态系统（状态包含 \(C\) 与 \(D\)）的转移规则明确依赖于最近两步的历史：当连续出现 \(CC\) 时下一步必定确定性地走向 \(D\)；连续出现 \(DC\) 时必定走向 \(C\)；而当出现 \(CD\) 或 \(DD\) 时，系统各以 \(1/2\) 的等概率走向 \(C\) 或 \(D\)。对于该系统，单看当前的符号（如 \(C\)）无法预测未来。然而，若将状态重新定义为由“前一拍状态”与“当前状态”构成的二维向量状态：
重新编码后的系统具有 4 个扩展状态。表 3.3-5 给出了重编码后系统的完整一步转移概率矩阵。
| 下一向量状态 \(\mathbf{S}_{t+1} \downarrow\) | 当前 \((C, C)\) | 当前 \((C, D)\) | 当前 \((D, C)\) | 当前 \((D, D)\) |
|---|---|---|---|---|
| \((C, C)\) | 0 | 0 | 1 | 0 |
| \((C, D)\) | 1 | 0 | 0 | 0 |
| \((D, C)\) | 0 | 1/2 | 0 | 1/2 |
| \((D, D)\) | 0 | 1/2 | 0 | 1/2 |
在表 3.3-5 中，向量重编码展示了两个重要的数理特征：
- 结构性零概率：由于物理时间流逝的连续性，当前状态向量 \((X_{t-1}, X_t)\) 的第二个分量必然精确成为下一时刻状态向量 \((X_t, X_{t+1})\) 的第一个分量。因此，任何形如 \((C, D) \to (C, C)\) 的转移在拓扑上严格不可能发生，矩阵中自然成片涌现出结构性的绝对零概率元；
- 状态确定性的恢复：在扩展状态空间中，给定当前向量 \(\mathbf{S}_t\)，下一步的条件转移概率不再需要查阅更早的任何历史；系统在概率测度意义上重新完全恢复了状态决定性（State-determined）。
阿什比由此做出了一个震撼人心的控制论认识论结论：系统的“记忆”，本质上并非某种超验的神秘精神实体，而纯粹是观察者对系统状态变量划分方式的相对产物（Ashby, 1956, S.9/8）。如果观察者采用极其狭隘的分辨率，仅仅记录系统在一个物理瞬间的单分量标量，系统便看似具有漫长而复杂的记忆回溯；一旦观察者将足够长度的历史向量纳入系统的复合状态描述之中，记忆现象便被完全吸纳为扩展状态空间中的一阶当前转移。推广而言，任意具有有限阶历史依赖（\(k\) 阶马尔可夫链）的复杂随机系统，均可同构地映射为一个状态空间基数为 \(n^k\) 的标准一阶马尔可夫链。
习题 3.3-4
平稳马尔可夫链的条件熵与熵率计算前瞻：设一个二状态时间齐次马尔可夫链，其一步转移概率矩阵为：
\[ M = \begin{pmatrix} 3/4 & 1/4 \\ 1/4 & 3/4 \end{pmatrix} \]
（1）求解该系统的平稳平衡概率分布 \(\pi = (\pi_1, \pi_2)^\top\)；
（2）根据概率分布的熵定义公式 \(H(p) = -\sum_i p_i \log_2 p_i\)，分别计算该转移矩阵中第一列与第二列的列条件熵；
（3）计算系统在达到平稳分布时，平均每个转移步数所输出的熵率（Entropy Rate）\(h = \sum_i \pi_i H(X_{t+1} \mid X_t = i)\)；并与完全无时序约束的均匀二状态转移链（每步 1.0 比特）进行定量对比，阐明差值的物理含义。
（1）平稳分布求解： 由平稳特征方程 \(M \pi = \pi\) 得： \[ \begin{cases} \tfrac{3}{4}\pi_1 + \tfrac{1}{4}\pi_2 = \pi_1 \implies \tfrac{1}{4}\pi_2 = \tfrac{1}{4}\pi_1 \implies \pi_1 = \pi_2 \\ \pi_1 + \pi_2 = 1 \end{cases} \] 解得平稳概率向量严格为对称均匀分布：\(\pi = (1/2, 1/2)^\top\)。
（2）列条件熵计算： 第一列概率分布为 \((3/4, 1/4)\)，其局部条件熵为： \[ H(X_{t+1} \mid X_t = 1) = -\tfrac{3}{4}\log_2\tfrac{3}{4} - \tfrac{1}{4}\log_2\tfrac{1}{4} = -\tfrac{3}{4}(\log_2 3 - 2) - \tfrac{1}{4}(-2) = 2 - \tfrac{3}{4}\log_2 3 \] 代入 \(\log_2 3 \approx 1.58496\)： \[ H(X_{t+1} \mid X_t = 1) \approx 2 - 0.75 \times 1.58496 = 2 - 1.18872 = 0.8113\text{ 比特} \] 第二列概率分布为 \((1/4, 3/4)\)，仅项序互换，数值完全对称： \[ H(X_{t+1} \mid X_t = 2) = 0.8113\text{ 比特} \]
（3）平稳熵率与时序约束对比：
系统平稳熵率为两列条件熵按平稳概率的加权平均：
\[ h = \pi_1 H(X_{t+1} \mid X_t = 1) + \pi_2 H(X_{t+1} \mid X_t = 2) = \tfrac{1}{2}(0.8113) + \tfrac{1}{2}(0.8113) = 0.8113\text{ 比特/步} \]
对于完全均匀独立的二状态转移矩阵（每列均为 \((1/2, 1/2)\)），其每步熵为 \(\log_2 2 = 1.0000\) 比特/步。
物理含义：两者的差值为：
\[ \Delta h = 1.0000 - 0.8113 = 0.1887\text{ 比特/步} \]
该差值定量刻画了马尔可夫链时序自相关约束所消除的不确定性。因为当前状态对于预测下一状态提供了有效信息（下一状态以 75% 的概率保持现状），接收端在已知当前状态的先验条件下，面对下一符号时的平均不确定性不再是满额的 1 比特，而是显著被压缩至 0.8113 比特。这为下一节全面建立香农熵测度与条件互信息理论奠定了坚实的数理桥梁。
本节建立的马尔可夫链动力学与平稳分布理论，为持续传输过程中的概率演化提供了严格的数学工具。然而，如何定量测度任意复杂概率分布所蕴含的总不确定性？如何界定经过有噪声传输后接收端真正保留的有效信息量？在下一节中，我们将全面引入现代信息论的奠基性工具——香农信息熵。
关键术语
- 持续传输 (incessant transmission)
- 跨越无限时间跨度的连续状态序列流动；自主有限确定系统必然陷入周期环，唯有随机变换才能支持持续的不确定性生成。
- 随机变换 (stochastic transformation)
- 每个当前操作数对应于下一状态的概率分布的映射变换；当转移概率不依赖绝对时钟时称为时间齐次随机变换。
- 转移概率矩阵 (matrix of transition probabilities)
- 以列表示当前状态、行表示下一状态的非负矩阵；每列代数和严格为 1，完全刻画马尔可夫过程的一步转移规律。
- 马尔可夫性 (Markov property)
- 随机过程的无后效性公理：在已知当前状态的条件下，未来的条件概率分布与过去的全部历史状态严格条件独立。
- 时间齐次性 (time-homogeneity)
- 转移概率仅取决于状态本身及其相对时差，不随系统运行的绝对物理时间发生漂移的平稳动力学属性。
- 平稳平衡分布 (stationary distribution)
- 转移矩阵的不变测度概率向量，满足 \(M \pi = \pi\)；遍历系统经历阻尼振荡后必然收敛的长期宏观统计定态。
- 吸收状态 (absorbing state)
- 自转移概率严格为 1 的不可逆陷阱状态；一旦系统进入该状态便永远无法逃逸，与遍历定态形成鲜明对照。
- 状态重编码 (state recoding)
- 将长为 k 的历史状态序列提升重构为高维向量状态的技术；将高阶自相关系统严格映射为标准一阶马尔可夫链的普遍方法。
参考文献与延伸阅读
- Ashby WR. 1956. An Introduction to Cybernetics. Chapman & Hall / John Wiley & Sons.（特别参见第九章：Incessant Transmission，S.9/1–9/10）。
- Markov AA. 1913. Essai d'une recherche statistique sur le texte du roman «Eugène Onéguine». Bulletin de l'Académie Impériale des Sciences de St.-Pétersbourg 7:153–162.（英译版见 Science in Context, 2006, 19(3): 591–600）。
- Shannon CE. 1948. A mathematical theory of communication. Bell System Technical Journal 27:379–423, 623–656.
- Wright S. 1931. Evolution in Mendelian populations. Genetics 16:97–159.
- Berwick R. 2005. Notes on Population Genetics and Evolution: Wright–Fisher Model. MIT OpenCourseWare, HST.508.
- Khinchin AI. 1957. Mathematical Foundations of Information Theory. Dover Publications.