3.5.1 噪声:相对接收者的退化
在 3.2 节关于无损编码的理想模型中,分析假设信道是一个完全忠实的变换器:输入端呈现多少多样性,输出端便毫无保留地展现出同样数量的可分辨状态。然而,任何栖居于真实物理宇宙中的通信与控制系统都无法逃避一个根本规律:真实物理信道永远伴随着不可消除的噪声,多样性的传输过程在物理上必然是趋向退化与色散的。
退化的物理根源根植于微观世界的离散性与热力学涨落。诺伯特·维纳在《人有人的用处》(Wiener, 1950,第二章)中深刻指出:电子线路与生物电传导中的热噪声(约翰逊-奈奎斯特噪声,Johnson-Nyquist noise)与散粒噪声(Shot noise)是物理上绝对无法根除的,因为电荷的流动本质上是由具有分立量子电荷的电子的热碰撞所构成的;通信信号必须维持足够的物理能量与信噪比,消息才不至于被载体自身所固有的微观热运动完全淹没。阿什比进一步拓展了这一视野:在工程电子学中,人们习惯将由热涨落引起的干扰称为噪声;而在控制论与生物学的大尺度复杂系统中,噪声更普遍地来源于外部那些无法被彻底隔绝的宏观动力学系统(Ashby, 1956, S.9/19)。无论微观热扰动还是宏观偶联,其系统论后果完全一致:不可控的多样性不可逆地侵入了传输信道。
阿什比运用换能器模型精确刻画了这一过程(Ashby, 1956, S.9/19):设想一台换能器接收由两个独立分量构成的向量输入:第一分量来自发端信源,取值集合为 \(\{A, B, C\}\),代表希望传输的有用消息;第二分量来自不可控的外部环境,取值集合为 \(\{E, F, G\}\),代表不可避免的扰动。系统输出为离散标量,状态空间包含 1 至 9。换能器的转移映射规则规定如下: \[ AE \to 6, \quad AF \to 4, \quad AG \to 2, \quad BE \to 2, \quad BF \to 9, \quad BG \to 1, \quad CE \to 3, \quad CF \to 7, \quad CG \to 5 \] 在输入端,共有 \(3 \times 3 = 9\) 种可能的输入状态二元对;然而在输出端,所有的映射结果仅覆盖了 8 个状态标量——其中数值 2 被状态对 \(AG\) 与 \(BE\) 共同占用(发生了完全的状态汇流碰撞)。由于映射缺乏单射性,输入端不同的多样性在输出端被不可逆地合并折叠。若外部环境固定锁定在状态 \(E\),映射退化为单射 \(A \to 6, B \to 2, C \to 3\),消息可以完全无歧义地解码;然而,一旦环境在 \(E, F, G\) 之间随机波动,收到数值 2 的接收端便永远无法确定发端当初究竟发出了 \(A\) 还是 \(B\),信道所能承载的净多样性被永久性地压低。
噪声(noise):送入一个多输入换能器的多样性之中,凡是被指定的接收端声明为非目标、且该分量与有用消息在系统输出中发生不可分离的相互作用、导致正向编码映射丧失单射可逆性的物理输入分量,统称为该接收者的噪声(Ashby, 1956, S.9/19)。
相对性原理:噪声绝对不具备任何固有的、自在的客观物理标签。同一根铜质电话线上传播的时变电流,对于正在通话的用户而言,受话器中的电流是有用消息,而电极表面热电子的不规则逸散则是噪声;然而对于专门研究真空管阴极物理特性的物理学家而言,电子发射涨落正是其所欲精确测量的目标消息,而电话信号反倒退化为必须滤除的恶性噪声。何为消息、何为噪声,其界线纯粹由系统控制与接收主体的目的性边界所定义。
在图 3.5-1 所示的通信模型中,还必须在数学上严格区分一个极易混淆的概念近邻——失真(Distortion)与噪声污染(Noise Pollution)的区别(Ashby, 1956, S.9/20):
- 失真(Distortion):如果信道中不存在未知的独立外部随机输入,接收信号完全是发送信号的一个确定性单值函数 \(Y = f(X)\)。只要该函数 \(f\) 保持为单射(即没有两个不同的发送符号映射为同一个接收符号),即使输出信号在波形或几何外观上发生了剧烈的形变,这种效应仅仅被称为可逆失真。在数学上,只需对接收信号施行逆函数 \(f^{-1}\)(如均衡滤波器),失真在原则上便可被 100% 精确消除。人眼视网膜将外部世界的光学像上下颠倒、左右反向,属于典型的几何失真:该变换在拓扑上严格单射可逆,大脑视觉皮层能够毫无困难地重构正立的世界;
- 噪声污染(Noise Pollution):唯有当信道中由于不可控随机扰动或非单射合并,导致多对一的状态汇流不可逆发生时,系统才跨入真正的噪声污染。此时逆映射分支分叉,任何后处理滤波算法在数学上都无法从孤立的单次接收信号中确定性地消除歧义。
3.5.2 疑义度:污染的度量
信道受到噪声污染的严苛程度,由 3.4 节确立的香农疑义度(Equivocation) \(E = H(X \mid Y)\) 提供严格的测度标定。考察工程与信息论中最经典的通信信道模型——二进制对称信道(Binary Symmetric Channel, BSC)。信源输入二元符号 \(X \in \{0, 1\}\),每个符号在信道传输中独立地以翻转错误概率 \(p\) 发生比特跃迁(即 \(0 \to 1\) 或 \(1 \to 0\)),而以保持概率 \(1-p\) 正确传输。表 3.5-1 给出了当信源发端 0 与 1 等概率出现(信源熵 \(H(X) = 1.0\) 比特/符号)且信道误码率 \(p = 0.01\)(百分之一错误率)时的二维联合概率分布(Ashby, 1956, S.9/21;Shannon, 1948)。
| 发送符号 \(X\) \ 接收符号 \(Y\) | 收到 0 | 收到 1 | 发端边缘概率 \(P(X)\) |
|---|---|---|---|
| 发送 0 | 0.4950 | 0.0050 | 0.5000 |
| 发送 1 | 0.0050 | 0.4950 | 0.5000 |
| 受端边缘概率 \(P(Y)\) | 0.5000 | 0.5000 | 1.0000 |
对表 3.5-1 的联合分布执行严格运算。联合熵为: \[ H(X, Y) = -2(0.495 \log_2 0.495) - 2(0.005 \log_2 0.005) \approx 2(0.5021) + 2(0.0382) \approx 1.0808\text{ 比特/符号} \] 接收端边缘分布仍严格保持对称等概(\(P(Y=0) = P(Y=1) = 0.5\)),其边缘熵为: \[ H(Y) = \log_2 2 = 1.0000\text{ 比特/符号} \] 由此得出该对称信道的疑义度数值:
进而得出跨越该信道实际传输的有效信息速率(互信息):
对于二进制对称信道,当发端输入为等概分布时,互信息严格达到其理论最大值——二进制对称信道容量(Capacity of BSC):
习题 3.5-1
对称信道疑义度与二值熵函数的代数恒等性证明:考察一般的二进制对称信道(BSC),其输入符号 \(X \in \{0, 1\}\) 服从等概率先验分布(\(P(X=0) = P(X=1) = 1/2\)),信道单符号独立翻转错误概率为 \(p\)(\(0 < p < 1/2\))。
(1)分别写出联合概率 \(P(X=x, Y=y)\) 的四个分项表达式,并推导联合熵 \(H(X, Y)\) 的闭式解;
(2)证明受端边缘熵恒有 \(H(Y) = 1.0\) 比特;
(3)从条件概率与对称性原理出发,严格证明该信道的疑义度 \(E = H(X \mid Y)\) 在代数上精确恒等于二值熵函数 \(H_2(p)\)。
(1)联合分布与联合熵解析式: 发端等概:\(P(X=0) = P(X=1) = 1/2\)。由信道条件概率: \[ P(0, 0) = \tfrac{1}{2}(1-p), \quad P(0, 1) = \tfrac{1}{2}p, \quad P(1, 0) = \tfrac{1}{2}p, \quad P(1, 1) = \tfrac{1}{2}(1-p) \] 展开联合熵计算式: \[ \begin{aligned} H(X, Y) &= -2 \left[ \tfrac{1-p}{2} \log_2\left(\tfrac{1-p}{2}\right) \right] - 2 \left[ \tfrac{p}{2} \log_2\left(\tfrac{p}{2}\right) \right] \\ &= -(1-p) [\log_2(1-p) - 1] - p [\log_2 p - 1] \\ &= -(1-p)\log_2(1-p) + (1-p) - p\log_2 p + p \\ &= 1 - p\log_2 p - (1-p)\log_2(1-p) \;=\; 1 + H_2(p)\text{ 比特} \end{aligned} \]
(2)受端边缘分布: 全概率积分: \[ P(Y=0) = P(0, 0) + P(1, 0) = \tfrac{1-p}{2} + \tfrac{p}{2} = \tfrac{1}{2} \] 同理 \(P(Y=1) = 1/2\)。受端边缘分布在发端等概下保持严格对称均匀分布,因此边缘熵严格等于极大值: \[ H(Y) = \log_2 2 = 1.0\text{ 比特} \]
(3)疑义度与 \(H_2(p)\) 恒等性证明: 由定义: \[ E = H(X \mid Y) = H(X, Y) - H(Y) = [1 + H_2(p)] - 1 = H_2(p) \] 几何与信息论意义:由信道对称性可知,无论接收端实际观测到的符号是 0 还是 1,发端出现差错的后验不确定性完全相同,条件分布始终同构于二元分布 \((1-p, p)\)。因此后验不确定性完全由信道本身的翻转熵 \(H_2(p)\) 唯一决定。由此严格推得互信息 \(I(X; Y) = H(X) - E = 1 - H_2(p) = C\)。
3.5.3 冗余:以重复换可靠
在明晰了噪声必然损毁多样性之后,系统工程与生物进化所必须解决的核心命题便摆在面前:面对一个本身并不完美、每一个物理符号都有可能发生随机突变的信道,系统究竟依靠何种机制才能确保消息的绝对可靠?
一切纠错与抗噪机制的终极核心,可以用一句话彻底概括:信源自愿放弃一部分完全自由组合的可能性空间,在码字序列中人为强加严格的结构约束——这便是冗余(Redundancy)。设发端要传输 \(k\) 比特的独立消息,工程上并不直接发送包含 \(k\) 个符号的无约束字串,而是通过特定的编码器将其扩展为包含 \(n\) 个符号的物理码字(\(n > k\))。在包含 \(2^n\) 个潜在符号串的高维超立方体空间中,仅仅选择性地指定 \(2^k\) 个顶点作为合法的“码字流形”,其余 \(2^n - 2^k\) 个可能字串均被定义为非法状态。当物理信道中的随机噪声改变了传输码字中的个别比特时,受到扰动的状态向量大概率被抛掷至合法流形之外(从而立即被系统检出差错);若各合法码字之间在几何上保持着足够的汉明距离(Hamming Distance),接收端只需判定接收到的畸变码字在空间中离哪一个合法码字最近,便能够以极高的确定性将差错就地纠正。其付出的物理代价极其直白:信道的实际有效传输速率被稀释降低至 \(R = k/n\) 比特/符号。
人类自然语言是展现高冗余抗噪特性的最宏伟典范。在日常阅读中,即使印刷文本中偶尔出现一两个错别字或漏字,读者往往能够毫无障碍地流畅理解全文;而在口语交谈中,即使背景充斥着剧烈的环境噪音,听者依然能完全复原谈话内容。香农在 1951 年通过精巧的人工逐字母猜测统计实验估算出:标准印刷英语的实际信息熵仅为每字母 0.6 至 1.3 比特,而 27 个字符(26 个英文字母加空格)在完全无约束等概时的理论容量为 \(\log_2 27 \approx 4.755\) 比特。由此计算,自然英语在拼写、语法与语义层面的综合冗余度高达 75% 至 87%(Shannon, 1951)。自然语言花费了近八成的信道容量作为冗余防线,换取了人类在嘈杂声学世界中极其稳健的跨主体心智交流。
汉语拼音系统同样展示了这一代数规律。普通话不计声调的有效音节总数约为 410 个。若按每个音节平均由 3 个拼音字母拼写估算,无约束的 3 字母序列在理论上能够提供 \(26^3 = 17576\) 种组合(多样性为 \(3 \log_2 26 \approx 14.10\) 比特);而区分全部 410 个真实有效音节实际仅需 \(\log_2 410 \approx 8.68\) 比特。由此求出拼音拼写维度的形式冗余度为:
必须厘清“冗余”在控制论与信息论中的双重语境:
在香农信息论中,“冗余”专指信源实际熵与其满负荷最大可能熵之间的相对差额(\(\rho = 1 - H/H_{\max}\)),衡量的是信源未被充分榨取利用的潜在传输余量;
而在格雷戈里·贝特森(Gregory Bateson)的二阶控制论与《心智生态学》语境中,“冗余”被创造性地引申为“模式的重复出现与相互可预测性”——即观察者在目睹了复杂系统的一部分特征之后,能够据以高度准确地推断出系统尚未显现的其余部分(Bateson, 1972)。两者同源于“约束的存在”,但前者立足于信道成本的消耗,后者立足于认知主体的模式提取。对两者的深层比较将在第 6 章展开。
工程上最直观、结构最透明的纠错码是重复码(Repetition Code)。为了防止单个二进制比特在传输中发生翻转,发端将每个比特连续重复发送 \(k\) 次(取奇数,如 \(k=3\) 时发送 000 或 111);接收端收到三位畸变字串后,执行多数表决判决准则(Majority Voting Rule)。在三重复码中,判决当且仅当三个副本中至少有两个副本同时发生独立翻转时才会发生判决失败。其译码误码率公式为:
图 3.5-2 绘制了三重重复表决码的误码率曲线与无编码对角基准线的对比。
习题 3.5-2
三重多数表决判决性能的形式化推导:设二进制信道单比特翻转差错概率为 \(p\),各比特差错独立发生。系统采用三重重复码进行保护。
(1)基于二项分布形式化推导表决判决差错概率 \(P_{\mathrm{err}} = 3p^2 - 2p^3\);
(2)证明当且仅当 \(0 < p < 1/2\) 时,重复编码后的等效误码率严格低于单次无保护发送(即 \(P_{\mathrm{err}} < p\));
(3)推导当 \(p \to 0\) 时比值 \(P_{\mathrm{err}}/p\) 的渐近极限,并给出在 \(p = 0.01\) 与 \(p = 0.1\) 下的数值改善倍数。
(1)差错概率推导: 发端发送一位比特(假定为 0,因信道对称,发 1 时结果完全相同),信道传输 3 位独立比特。接收端收到的 1 的个数服从二项分布 \(K \sim \operatorname{Binom}(3, p)\)。多数表决判决为 1(即判决出错)当且仅当收到两个或三个 1(即 \(K \ge 2\)): \[ \begin{aligned} P_{\mathrm{err}} &= P(K=2) + P(K=3) \\ &= \binom{3}{2} p^2 (1-p) + \binom{3}{3} p^3 \\ &= 3p^2(1-p) + p^3 \;=\; 3p^2 - 3p^3 + p^3 \;=\; 3p^2 - 2p^3 \end{aligned} \]
(2)优越性区间证明: 考察编码后差错率与无编码差错率之差: \[ \Delta(p) = P_{\mathrm{err}} - p = 3p^2 - 2p^3 - p = -p(2p^2 - 3p + 1) \] 对二次多项式进行因式分解:\(2p^2 - 3p + 1 = (2p - 1)(p - 1)\)。代入得: \[ \Delta(p) = -p (2p - 1)(p - 1) \] 在物理工作区间 \(0 < p < 1/2\) 内:
- 因子 \(p > 0\);
- 因子 \(2p - 1 < 0\);
- 因子 \(p - 1 < 0\)。
反之,若 \(1/2 < p < 1\),则 \(2p - 1 > 0\),乘积为正,\(\Delta(p) > 0\),多数表决反而使错误率恶化;在 \(p = 1/2\) 处 \(\Delta(p) = 0\)。由此证明 \(0 < p < 1/2\) 为等效误码率改善的充要条件。
(3)渐近行为与数值核验:
渐近比值为:
\[ \lim_{p \to 0^+} \frac{P_{\mathrm{err}}}{p} = \lim_{p \to 0^+} (3p - 2p^2) = 0 \]
这表明编码后差错率相对原差错率呈高阶无穷小衰减。在极微差错区:\(P_{\mathrm{err}} \approx 3p^2\)。
数值核验:
- 当 \(p = 0.01\) 时:\(P_{\mathrm{err}} = 3(0.01)^2 - 2(0.01)^3 = 0.0003 - 0.000002 = 0.000298\)。差错率由 \(10^{-2}\) 骤降至 \(2.98 \times 10^{-4}\),抗噪性能改善了约 33.6 倍;
- 当 \(p = 0.1\) 时:\(P_{\mathrm{err}} = 3(0.1)^2 - 2(0.1)^3 = 0.03 - 0.002 = 0.028\)。差错率由 0.1 降至 0.028,改善了约 3.57 倍。
习题 3.5-3
高阶重复码性能与传输速率代价:将上述重复表决码扩展为五重重复码(发送 00000 或 11111),接收端依据多数表决判决。
(1)推导五重重复码的表决判决差错概率 \(P_5(p)\) 闭式表达式;
(2)在信道差错概率 \(p = 0.01\) 下,精确计算 \(P_5(0.01)\) 的数值;
(3)并列对比单次无保护发送、三重重复码与五重重复码在 \(p=0.01\) 下的有效传输速率与差错率,分析单纯增加重复次数对抗噪声的优势与内在瓶颈。
(1)五重重复判决差错闭式: 判决失败当且仅当 5 位中至少有 3 位发生错误(即差错数 \(K \ge 3\)): \[ \begin{aligned} P_5(p) &= \binom{5}{3} p^3 (1-p)^2 + \binom{5}{4} p^4 (1-p) + \binom{5}{5} p^5 \\ &= 10 p^3 (1 - 2p + p^2) + 5 p^4 (1 - p) + p^5 \\ &= 10p^3 - 20p^4 + 10p^5 + 5p^4 - 5p^5 + p^5 \;=\; 10p^3 - 15p^4 + 6p^5 \end{aligned} \]
(2)数值演算: 代入 \(p = 0.01\): \[ \begin{aligned} P_5(0.01) &= 10(10^{-6}) - 15(10^{-8}) + 6(10^{-10}) \\ &= 0.000010 - 0.00000015 + 0.0000000006 \approx 9.8506 \times 10^{-6} \end{aligned} \]
(3)综合对比与理论瓶颈分析: 在 \(p = 0.01\) 条件下:
- 无保护单次发送:有效速率 \(R = 1.0\text{ 比特/符号}\),误码率 \(P = 1.0 \times 10^{-2}\);
- 三重重复码:有效速率 \(R = 1/3 \approx 0.333\text{ 比特/符号}\),误码率 \(P \approx 2.98 \times 10^{-4}\);
- 五重重复码:有效速率 \(R = 1/5 = 0.200\text{ 比特/符号}\),误码率 \(P \approx 9.85 \times 10^{-6}\)。
3.5.4 有噪声信道的容量定理
在面对噪声干扰时,早期的工程直觉常常悲观地断言:由于物理信道中的每一个符号在每一瞬间都存在着发生随机畸变的微观概率,因此想要在有噪声信道中实现绝对无误的完美传输是不可能的;为了压低差错率,通信速率最终必须不可避免地衰减至零。然而,香农在 1948 年以无可辩驳的数学构造,彻底推翻了这一直觉悲观论,确立了信息时代最核心的科学基石——有噪声信道编码定理(Noisy-Channel Coding Theorem)(Shannon, 1948, §13–14):
香农有噪声信道编码定理(Shannon's Second Theorem):
设离散无记忆信道具有有限信道容量 \(C = \max_{P(X)} I(X; Y)\)。
(1)若目标传输速率 \(R\) 严格低于信道容量(\(R < C\)),则对于任意给定的容许差错界限 \(\varepsilon > 0\),必定存在一个充分大的编码块长度 \(n\),以及对应的码本编码与最大似然译码方案,使得当分组码长大于 \(n\) 时,接收端的块平均译码错误概率满足 \(P_{\mathrm{block}} < \varepsilon\);
(2)反之,若传输速率超过信道容量(\(R > C\)),则无论采用何种复杂的编码机制,块错误概率必定严格远离零;随着码长 \(n \to \infty\),译码差错概率不可避免地趋近于 1。
必须极其敏锐地体会该定理在认识论上的精微界限:定理承诺的是“随着编码块长度趋向无穷,错误概率可以任意逼近于零”,而绝对不承诺在任意有限码长下存在绝对的零差错(Zero-Error)。 在工程实践中,为了逼近更低的差错率,系统必须采用更长的分组字块进行联合校验,而长字块编码必然引入处理与等待的计算时延与硬件复杂度,这构成了工程对抗噪声所必须支付的真实物理代价。
在香农定理奠基之后,理查德·汉明(Richard W. Hamming)在 1950 年开创了现代代数编码理论(Hamming, 1950)。他构造了著名的汉明 (7, 4) 码:在 4 个有效信息比特之外,通过严密的线性代数校验方程仅追加 3 个奇偶校验比特,即可构成包含 7 个比特的复合码字。汉明码不仅能够 100% 检出传输中的双位差错,更能够通过计算伴随式(Syndrome)精确锁定单比特差错在 7 个位置中的具体坐标并实现就地硬件纠正!这表明:冗余绝非原始的机械重复,而是高度精密、富含对称性几何流形的代数约束。
阿什比在《控制论导论》(Ashby, 1956, S.9/22)中深刻地探讨了香农定理在生命科学中的伟大意义。他指出,许多生物学家曾长期困惑于为何复杂的神经中枢能够历经数十年而始终维持极其稳定的记忆与思维控制——神经元本身是易受疲劳与温度生化涨落影响的湿性细胞,单个突触传递具有极高的随机衰减概率。香农定理为生物学提供了颠覆性的认识论武器:生命并不需要依赖由神力创造的绝对不出错的微观神经纤维;只要宏观神经回路在架构上满足香农信道容量的约束条件,利用数以亿计的并行神经轴突网络构筑起高度冗余的代数拓扑约束,整个有机体就完全能够在充满随机物理热噪声的生化基底之上,构建起超常可靠、长久稳定的认知心智机制。
3.5.5 语义层的混淆与人为干扰
在彻底解决了物理与符号层的抗噪通信理论之后,控制论必须将目光投向更广阔、更深刻的人类交流与社会控制领域。诺伯特·维纳在《控制论》与《人有人的用处》(Wiener, 1950,第四章)中,将通信与控制的分辨体系划分为三个截然不同的宏观层次:
- 物理/句法层(Syntactic Level):关注物理符号本身在传输介质中的保真度,即声波振动、动作电位、电压波形或二进制比特的传输。这正是香农信息论所完整解决的工程领域;
- 语义层(Semantic Level):关注物理符号所承载的意义(Meaning)与概念映射。接收端是否真正理解了发端所要表达的意图;
- 行为/语用层(Pragmatic/Behavioral Level):关注接收主体在理解了消息之后,如何将其翻译为可从外部观测的具体控制行动,以及该行动能否成功维持系统的稳态。
维纳将人类个体视为高级通信系统的终端机器。在每一层之间,系统都必须执行深度的翻译与滤波操作;而根据控制论关于单值变换多样性只减不增的普遍定理,每一次跨层次的翻译映射都伴随着不可逆的信息耗散与损失。维纳将此称为热力学第二定律在通信语义控制中的体现(Wiener, 1950,第四章)。
由此,噪声在语义与社会控制层展现出了全新的恶性形态。通信不再仅仅面对“比特是否翻转”,而是面对更为致命的混淆(Confusion)与人为干扰(Jamming)。维纳与语言学家罗曼·雅各布森(Roman Jakobson)及贝努瓦·曼德尔布罗特(Benoit Mandelbrot)携手,将人类通信建模为一个高级策略博弈过程(Wiener, 1950,第十一章;Mandelbrot, 1953):
自然探索与法庭对抗:奥古斯丁式与摩尼教式博弈:维纳深刻剖析了科学探索与社会对抗在博弈本质上的分水岭:
在纯粹的科学研究中,科学家所面对的通信对手是无生命的客观自然界。自然界所展现的随机干扰(热噪声、散射、气象阻隔)是完全被动而盲目的,它并不具有蓄意挫败人类认知的自觉意志。维纳借用阿尔伯特·爱因斯坦的著名格言刻画这一关系:“上主精微,但并无恶意”(Subtle is the Lord, but malicious He is not)。维纳将其界定为哲学上的奥古斯丁式恶观(Augustinian view):所谓的噪声与无序,仅仅是系统缺乏完备秩序的局限体现,自然界绝不会因为科学家迈出了精巧的一步,就蓄意改变自身的物理定律来进行反制;
然而,在人类社会的法庭辩论、立法争辩、商战乃至军事宣传中,通信的对手发生了根本性的质变——对手跨入了摩尼教式恶观(Manichean view)。在法庭上,对方辩护律师绝非盲目的物理热噪声;对方律师是一个具有高度自觉意识的博弈主体,其行动目标正在于精准地寻觅我方叙事逻辑中的漏洞,蓄意地将概念混淆注入我方与法官、陪审团之间的通信信道,采取一切策略性手段摧毁我方陈述的有效语义结构(Wiener, 1950,第六章)。
在面对蓄意的人为策略干扰(Jamming)时,香农经典的离散无记忆信道编码定理在实践中遭遇了适用边界。因为对手不再是一个静止的随机概率转移矩阵,而是一个在博弈论意义下根据我方编码策略动态改变干扰策略的对抗者。此时,通信控制必须全面融入约翰·冯·诺依曼(John von Neumann)的极大极小策略博弈理论(Minimax Theorem),通过密码学加密、频序伪装、跳频对抗与策略博弈来捍卫有效控制。
更进一步地,维纳在《人有人的用处》第八章中发出了极其敏锐的社会控制论批判:人为干扰甚至无需出自任何具体的敌对个体,它完全可能内生于高度商业化传播系统的宏观结构异化之中。当大众传媒的技术成本急剧膨胀、资本高度垄断时,传播体系沦为“向越来越多的人,诉说着越来越贫乏的话语”的商业技艺;在铺天盖地的广告公关与算法信息轰炸之下,整个社会的信息生态被海量的低价值同质化符号彻底淹没。这种结构性语义噪声并不篡改任何特定的物理数据,它依靠总体信噪比的极端恶化与注意力稀释起作用,使得能够指导人类社会理性行动的有效信号被彻底瘫痪。
回顾第三章的全程探索:从 3.1 节的多样性与约束,到 3.2 节的确定性单射编码与容量,再到 3.3 节的马尔可夫链、3.4 节的信息熵公理化,直至本节的有噪声信道编码与语义干扰博弈——我们已经完整建立了关于“系统能够产生、容纳与传输多少区别”的全部数理工具。然而,被动地加固信道、提高码率终有其物理极限。面对外部世界永恒不息的混沌冲击,一个真正具有生命力与智能的主动系统,绝不能仅仅满足于在信道中被动防御;它必须走向主动调节——利用自身的内部状态变化去精确对冲并抵消环境的扰动,使得系统生命所攸关的本质变量永远维持在生存安全区之内。这直接推开了第四章的大门:调节与控制——以及威廉·罗斯·阿什比那条统治着整个系统科学的至高法则:必要多样性定律。
关键术语
- 噪声 (noise)
- 输入多变量变换器中被指定接收端声明为非目标、且与有用消息发生不可逆汇流碰撞的扰动分量;具有相对于主体的相对性。
- 可逆失真 (distortion)
- 输出与输入之间保持严格单射确定性映射的信号形变;原则上能够通过逆变换滤波器实现 100% 确定性无损消除。
- 冗余 (redundancy)
- 信源实际熵与其理论最大容量之间的差额比例(\(\rho = 1 - H/H_{\max}\));在编码中通过强加代数结构约束作为对抗噪声的物理防线。
- 重复码 (repetition code)
- 将待传比特进行奇数次物理重复、配合多数表决判决准则的纠错码;以传输速率成倍牺牲换取误码率的平方级抑制。
- 多数表决 (majority voting)
- 对多个重复接收符号按频数占优原则进行硬判决的准则;在三重复码中等效误码率为 \(P_{\mathrm{err}} = 3p^2 - 2p^3\)。
- 信道编码定理 (channel coding theorem)
- 香农第二定理:当传输速率低于容量(\(R < C\))时,存在长块编码使块译码错误率任意逼近于零;不承诺有限码长下的绝对零差错。
- 汉明距离 (Hamming distance)
- 两个等长码字向量在对应坐标位置上不同符号的总数;编码空间中划分合法流形与实现纠错检错的几何测度基石。
- 语义混淆 (semantic confusion)
- 维纳对语义与概念层噪声的总称;物理符号虽然完整抵达,但在解释性过滤器与概念映射中产生歧义与错配。
- 人为干扰 (jamming)
- 博弈论语境下具有自觉对抗意识的主体蓄意向通信控制信道中注入混乱、以摧毁对方控制能力的策略行动。
参考文献与延伸阅读
- Ashby WR. 1956. An Introduction to Cybernetics. Chapman & Hall / John Wiley & Sons.(特别参见第九章后半部分:Noise and Equivocation,S.9/19–9/22)。
- Shannon CE. 1948. A mathematical theory of communication. Bell System Technical Journal 27:379–423, 623–656.
- Shannon CE. 1951. Prediction and entropy of printed English. Bell System Technical Journal 30:50–64.
- Wiener N. 1950. The Human Use of Human Beings: Cybernetics and Society. Houghton Mifflin(1954 修订版 Doubleday 为通行标准本)。
- Hamming RW. 1950. Error detecting and error correcting codes. Bell System Technical Journal 29:147–160.
- Mandelbrot B. 1953. An informational theory of the statistical structure of language. In: Jackson W, ed. Communication Theory. Butterworths:486–502.
- Bateson G. 1972. Steps to an Ecology of Mind. Chandler Publishing Company.