3.1.1 从个体到集合
在本书第一部分(第二章)中,对机器的考察主要立足于特定时刻与特定参数下的现实行为,阐明状态转换、运动学图以及黑箱推断的基本机制。然而,控制与调节的核心问题——即如何抵御不可预知的环境干扰、如何使受控量维持于预定目标——仅凭对个别孤立事实的记录是无法完整回答的。正如阿什比在《控制论导论》(Ashby, 1956, S.7/1)中明确指出的:要深入建立控制论体系,必须将考察范围从“系统此时此地正在做什么”拓展至“系统在所有潜在条件下可能做什么”这一更为宏大的可能性全集。从本节开始,控制论的研究对象正式转向由可能性构成的集合。
这一转向深刻契合了现代自然科学的认识论基础。科学陈述从来不满足于孤立的单次经验:如果经典力学的单摆定律仅仅适用于特定物理学家在特定下午摆动的那一具特定单摆,它便不具备任何普遍法则的价值;其科学力量恰恰在于它对满足特定约束条件的一切单摆构成的集合普遍有效(Ashby, 1956, S.7/2)。然而,日常语言中的单数名词往往遮蔽了这一集合特征:诸如“四冲程内燃机”、“受调控的细胞”等语法上的单数表述,其科学内涵所指称的均是具有相同结构或变换规则的系统所构成的统计系综或可能性类属(S.7/3)。
必须严格区分对集合属性的陈述与对个体属性的陈述。设某社群中包含 100 名成年人,其中 82 人已婚;数值 0.82 是这一社群集合的宏观统计属性,任何孤立个体的物理构成中都不存在“0.82 个人”这样不可分的性质(S.7/4)。若将 0.82 表述为任取一人处于已婚状态的先验概率,这依然是对该样本集合的整体刻画。在第三章与后续章节中,当概率测度与机器动力学概念交织在一起时,始终必须牢记这一基于集合的认识论来源。
在通信与信息理论中,集合概念更是构成了不可或缺的核心基石。设想在严格受限的通信场景中,发送端与接收端之间若要传递任何一条有效消息,其根本前提是存在一个可供选择的可能性集合(Shannon, 1948; Wiener, 1948)。如果所有选择路径都被外部强制压缩至唯一确定的单一动作,则任何消息的传递都将在物理上与逻辑上被彻底阻断(Ashby, 1956, S.7/5)。
进一步地,任何特定消息所携带的信息量,并不单纯取决于该符号串的几何或物理外形,而本质上取决于该消息所源自的可能性集合的规模。设两名身处不同交战区的战俘各自寄出一封内容完全相同的家信“我平安无事”:若甲国军规仅允许俘虏在三种截然不同的固定短语中选择其一,而乙国军规强制所有战俘只能寄出这一种固定措辞,则两位家属所接收到的信息量存在根本差异。前者排除了另外两种可能选择,从而消除了不确定性;后者则对应于基数为 1 的平凡集合,未消除任何先验不确定性。这一经典反思表明:信息不是个别物理符号的固有实体属性,而是符号背后的可能性集合及其概率分布的系统特征(Ashby, 1956, S.7/5)。
3.1.2 多样性与对数计量
为了定量刻画可能性集合的规模,阿什比提出了控制论中最基础的核心量——多样性(Variety)。
多样性(variety):一个集合中所包含的可分辨(Distinguishable)元素——即在给定分辨准则下彼此能够被区分的元素——的总数(Ashby, 1956, S.7/6)。在工程与信息论计算中,通常取该元素数目以 2 为底的对数,单位为比特(bit)(S.7/7)。
在计算多样性之前,首先必须明确“相对于哪位观察者是可分辨的”。以双臂臂板信号机为例:若两臂在机械结构上各具备 8 个独立的旋转定位,从近处可独立识别每条臂的编号时,系统共具备 \(8 \times 8 = 64\) 种状态组合;但若从远距离观测,观察者无法区分两臂的物理个体标识,诸如“左臂水平且右臂倾斜”与“右臂水平且左臂倾斜”在视觉上无法区分,则可分辨的状态总数缩减为对称组合数 \(8 + \binom{8}{2} = 36\) 种(Ashby, 1956, S.7/6)。由此可见,多样性并非脱离认知主体的自在属性;其严格定义必须指明观察者的辨别分辨率与辨识规则。
当考察由多个子系统复合而成的庞大系统时,状态数量通常随子系统数量呈组合爆炸或指数增长,采用对数计量相较于原始计数展现出巨大的数学优越性。任意对数底数的换底公式为:
在本书中,“多样性”一词通常依上下文指代可分辨元素的绝对数目 \(n = |S|\),或指代其以 2 为底的对数值 \(V(S)\):
采用对数计量的核心优势在于:相互独立的系统组合所产生的乘积状态空间,在对数尺度下退化为代数相加。设某分类专家能够分辨幼雏的 8 种家禽品种(\(\log_2 8 = 3\) 比特),而另一位鉴定员能够分辨其雌雄两性(\(\log_2 2 = 1\) 比特);若两项分类相互独立,联合鉴别系统能够分辨的类别总数为 \(8 \times 2 = 16\) 种,其对数多样性恰为 \(3 + 1 = 4\) 比特(Ashby, 1956, S.7/7)。
表 3.1-1 汇总了阿什比经典文献中所引用的多样性基准,并结合现代系统理论补充了典型物理、神经与基因系统的数量级对照。
| 物理或概念系统 | 可分辨状态数 \(|S|\) | 对数多样性 \(V\)(比特) | 计算依据与学术出处 |
|---|---|---|---|
| 二元性别判别 | 2 | 1.0 | \(\log_2 2 = 1.0\)(Ashby, 1956, S.7/7) |
| 扑克牌单张抽取(52 张标准扑克) | 52 | \(\approx 5.70\) | \(\log_2 52 \approx 5.7004\)(Ashby, 1956, S.7/7) |
| 三位英文字母排列构成的序列 | \(26^3 = 17576\) | \(\approx 14.10\) | \(3 \log_2 26 \approx 14.101\)(Ashby, 1956, S.7/6) |
| 三维汽车状态向量(车龄 10、马力 8、颜色 12) | 960 | \(\approx 9.91\) | \(10 \times 8 \times 12\),各分量独立时的上界(S.7/11) |
| 三盏交通信号灯独立开闭的全集 | \(2^3 = 8\) | 3.0 | 实际受规程约束仅出现 4 种状态,即 2.0 比特(S.7/8) |
| 一副 52 张扑克牌的全排列空间 | \(52! \approx 8.066 \times 10^{67}\) | \(\approx 225.58\) | \(\log_2 (52!) = \sum_{k=1}^{52} \log_2 k\),教学基准补充 |
| 人脑神经元发放构型(取 \(10^{10}\) 个二元单元) | \(2^{10^{10}}\) | \(10^{10}\) | 冯·诺伊曼 1951 年估计(转引自 Ashby, 1956, S.4/17) |
| 人类单倍体基因组碱基序列(约 \(3.1 \times 10^9\) 位点) | \(4^{3.1 \times 10^9} = 2^{6.2 \times 10^9}\) | \(6.2 \times 10^9\) | 每碱基 4 种取值(2 比特),未计表观修饰与结构变异 |
在表 3.1-1 中,人脑与人类基因组的多样性上界展示了组合空间的惊人广度。然而在真实的生理与发育过程中,实际观测到的生理构型与有效基因序列远未铺满整个理论空间。这一巨大的理论上限与现实实现之间的差额,正是下一小节所要严格刻画的核心概念——约束。
习题 3.1-1
机械密码锁的状态空间与多样性消除:设一具行李箱机械密码锁具有 3 个独立的数字转轮,每个转轮刻有 0 至 9 共 10 个离散数字挡位。
(1)计算该密码锁全部可能状态集合的基数与其对数多样性(比特);
(2)设某操作者通过旁路观察确证第一个转轮已被正确拨入目标数字,计算剩余未决可能性的多样性,并证明此观察行为所消除的多样性严格等于单个转轮的多样性;
(3)若安全设计规范要求系统的状态空间全多样性不得低于 40 比特,试求该密码锁至少需要配备多少个独立转轮?
(1)由于 3 个转轮独立取值,全状态集合的基数为 \(|S| = 10^3 = 1000\)。其对数多样性为: \[ V(S) = \log_2 1000 = 3 \log_2 10 \approx 3 \times 3.3219 = 9.9658\text{ 比特} \] 每个转轮贡献的独立多样性为 \(\log_2 10 \approx 3.3219\) 比特。
(2)当首位转轮固定后,剩余未决状态集合的基数缩减为 \(|S'| = 10^2 = 100\)。其多样性为: \[ V(S') = \log_2 100 = 2 \log_2 10 \approx 6.6439\text{ 比特} \] 多样性的减少量为: \[ \Delta V = V(S) - V(S') = \log_2 1000 - \log_2 100 = \log_2\left(\frac{1000}{100}\right) = \log_2 10 \approx 3.3219\text{ 比特} \] 这表明,“获知第一位数字”这一观察事实施加了一项强约束,其从可能性集合中排除掉的多样性,恰好严格等于该确定变量所固有的多样性。
(3)设配备的转轮数量为 \(k\)(\(k \in \mathbb{N}^+\))。系统的总多样性为 \(V_k = k \log_2 10\)。由设计指标 \(V_k \ge 40\) 可得: \[ k \ge \frac{40}{\log_2 10} \approx \frac{40}{3.3219} \approx 12.041 \] 由于转轮数必须为整数,故取天花板函数 \(k = \lceil 12.041 \rceil = 13\)。若仅配备 12 个转轮,多样性为 \(12 \times 3.3219 = 39.86\) 比特,未达 40 比特指标;因此至少需要配备 13 个独立转轮。
3.1.3 约束与自由度
在控制论中,约束并不是一个形而上学的模糊词汇,而是一个具有严格集合论与信息论定义的几何关系。
约束(constraint):两个集合之间的一种特定对应关系:当在某种特定条件(物理连接、运动学限制、法规规程等)下实际存在或允许发生的多样性,严格小于在无条件限制下理论上可能存在的多样性时,即称该系统存在约束(Ashby, 1956, S.7/8)。陈述一项约束必须始终明确指定两个集合:其一是无约束的较大参照集合,其二是条件限制下的较小现实子集。
以标准的城市十字路口交通信号灯为例:系统包含红(R)、黄(Y)、绿(G)三盏信号灯。若三盏灯由完全独立的继电器驱动且互不干涉,每个二元变量可独立取开(1)与闭(0)两态,理论状态空间为笛卡尔乘积集合,共包含 \(2^3 = 8\) 种可能组合(对数多样性为 3 比特)。然而,在交通控制工程中,规程严格限定信号灯仅能遵循特定时序循环(如英国标准的红 \(\to\) 红黄 \(\to\) 绿 \(\to\) 黄 \(\to\) 红),在正常运行轨迹中实际仅出现 4 种构型(多样性为 \(\log_2 4 = 2\) 比特)。实际多样性严格小于理论组合多样性,说明该系统处于强约束之下。
约束的严苛程度由可能形态数量缩减的比例决定。设有一队包含 \(n\) 名士兵的队列:若下达指令“任何人不得与自己生日相同者相邻”,由于生日碰撞概率较低,该约束仅排除全排列 \(n!\) 中极小一部分序列,属于弱约束;然而,若下达指令“全队必须按身高从矮到高排列”,除非出现身高完全相等的情形,该约束将可能出现的有效排列压缩至唯一的 1 种,导致可能性空间发生戏剧性的收缩(Ashby, 1956, S.7/9)。
在复杂系统的状态描述中,系统状态往往表示为多维状态向量 \(\mathbf{x} = (x_1, x_2, \ldots, x_m)\)。对于此类向量集合,多样性满足如下基本次可加性不等式:
当某一现实向量集合的多样性严格等于其各分量多样性之和时,控制论定义该集合内的各分量是相互独立(Independent)的。反之,若严格不等式 \(V(\mathbf{x}) < \sum_i V(x_i)\) 成立,则表明各分量之间存在着内在约束。
在控制论中,关于“独立”与“约束”的判定是一项纯粹基于集合与状态观测的事实陈述,绝不预设或依赖任何关于物理因果机制的形而上学假说(Ashby, 1956, S.7/12)。例如,若在某一汽车普查集合中,所有 960 种车龄、马力与颜色的理论组合均被实际观测到,则该集合在经验上展现出分量独立性;而在交通信号灯中只出现 4 种组合,是状态记录的直接事实,无需事先知悉其背后是由机械凸轮、继电器互锁还是数字微控制器所强制实施。混淆“统计与几何约束的事实”同“生成机制的假说”,是系统分析中常见的思维谬误。
与约束紧密相连的另一个分析概念是自由度(Degrees of Freedom)。阿什比将其界定为:为了能够产生与当前受约束集合完全相同的多样性,所需配备的相互独立的二元变量(或独立连续变量)的最小数目(Ashby, 1956, S.7/13)。在图 3.1-1 的交通信号灯中,由于系统最终多样性为 \(|S|=4\)(即 2 比特),只需 2 个相互独立的双态变量即可生成同样规模的状态空间,因此该三灯系统实际仅具备 2 个自由度(受到 1 个自由度的约束)。自由度概念主要适用于组合状态数恰好为 2 的整数次幂的情形,或直接推广至具有连续坐标的力学与控制系统。
习题 3.1-2
交通信号灯系统的约束度与自由度分析:回到图 3.1-1 所刻画的交通信号灯系统。
(1)若三盏灯完全解耦、自由独立开闭,计算其可分辨状态数与对数多样性(比特);
(2)实际时序规程限制为红、红黄、绿、黄四种相位循环,计算此时系统的实际对数多样性,并求出规程约束所消除的多样性;
(3)计算该受约束系统所保留的离散自由度数目;
(4)若工程规程经过修订,允许在特定故障模式下引入另外两种非标准显示(如“全灭”与“黄灯单闪”),使可能出现的稳定状态数增至 6 种,试分析此时能否使用整数自由度精确刻画该系统?并给出数学解释。
(1)三盏灯各自拥有 2 种状态(0 或 1),全组合集合基数为 \(|S_{\text{max}}| = 2^3 = 8\)。其对数多样性为 \(V_{\text{max}} = \log_2 8 = 3.0\text{ 比特}\)。
(2)实际序列中仅出现 4 种合法相位,集合基数为 \(|S_{\text{act}}| = 4\)。其实际对数多样性为 \(V_{\text{act}} = \log_2 4 = 2.0\text{ 比特}\)。规程约束所消除的多样性为: \[ \Delta V = V_{\text{max}} - V_{\text{act}} = 3.0 - 2.0 = 1.0\text{ 比特} \] 在几何上,约束排除了状态立方体中一半的可能顶点(消除了 4 种组合)。
(3)自由度定义为满足 \(2^k = |S_{\text{act}}|\) 的独立二元分量数 \(k\)。由于 \(2^2 = 4\),该系统具备精确的 \(k = 2\) 个自由度。
(4)若允许状态数增至 6 种,其对数多样性为 \(V = \log_2 6 = 1 + \log_2 3 \approx 2.5850\text{ 比特}\)。由于方程 \(2^k = 6\) 在整数集 \(\mathbb{Z}\) 内无解(\(2^2 = 4 < 6 < 8 = 2^3\)),因此无法使用离散的整数自由度来严格刻画该系统。阿什比指出,基于 \(2^k\) 的离散自由度指标仅适用于状态数恰好为 2 的整数次幂的特例;对于一般的离散状态集,连续取值的对数多样性(2.585 比特)构成了更加完备和通用的数学度量(Ashby, 1956, S.7/13)。
3.1.4 约束为何重要
约束概念之所以在控制论中占据至高无上的方法论地位,原因在于其深刻的认识论双重性:一方面,一切可以被系统利用的结构与规律都表现为约束的存在;另一方面,缺乏约束的世界在物理上是不可认知的。正如香农信息论所揭示的,通信的实质是消除不确定性,而消息序列中存在的统计约束(在通信理论中被称为冗余,Redundancy)正是确保信息能够在有噪声信道中被高效编码与可靠恢复的数学前提(Shannon, 1948; Shannon & Weaver, 1949)。
通信的物理实质是不确定性的精确消除。接收端所获取的信息量,在数值上严格取决于该消息所源自的先验可能性集合的广度,以及接收后该可能性集合被压缩收缩的程度。多样性度量的是未受约束时可能性空间的几何测度,而信息与约束度量的则是可能性空间受限收缩的程度。在 3.4 节中,香农熵的公理化公式将把这两种直觉严格统一为测度论数学。
首先,从理论哲学的最高视角来看,任何在自然界中成立的“客观定律”,本质上都是在广袤的可能性空间中强加的一项强大约束(Ashby, 1956, S.7/15)。牛顿引力定律与轨道动力学并未断言行星运动拥有任意的可能性;恰恰相反,在纸面上可以随意写出的无数个天体三维空间位置与动量向量之中,真实物理天空中实际观测到的轨迹仅仅占据了测度几乎为零的一个极微小的流形子集,所有其余的运动组合都被引力法则彻底排除。科学探索定律的过程,本质上就是寻找系统状态空间中恒定不变的不变式(Invariants),而每一个不变式都对应着一项几何约束。这正与阿什比在全书导论中确立的纲领相呼应(S.1/5):控制论不是追问“自然界为什么会产生某种行为”,而是首先构造出包含一切可能性的超空间,进而追问“现实世界为什么被严格限制在如此狭窄的子集之中”。
其次,“物理实体”(Object)本身的本体论存在,同样根植于约束。在经典三维欧几里得空间中,一个自由的刚体质点具有 6 个运动自由度(3 个空间平移与 3 个空间旋转)。若考察制造一把椅子的四条木腿,在组装之前,四条互不相连的木腿各自具备 6 个自由度,全系统总计具有 \(4 \times 6 = 24\) 个自由度;然而,一旦通过榫卯与胶水将其与椅面牢固接合,整把椅子作为一个刚性整体,其运动自由度骤降回 6 个——只要测得其中三条腿的位置与取向,第四条腿在空间中的坐标与位姿便被完全确定(Ashby, 1956, S.7/16)。因此,“椅子是一件统一的客体而非一堆散落木料”这一日常物理经验,其客观内涵正是零件之间强加的几何刚性约束。人类所栖居的宏观物理世界极度富含内在约束,以至于主体往往将其视作理所当然;一个完全没有约束的世界,将退化为各变量完全独立、不可预测的纯粹白噪声混沌(S.7/17)。阿什比由此断言:生物有机体的适应能力,本质上取决于外部环境所呈现出的约束程度,生物体能够适应环境的上限,恰好等于现实世界所受到的约束(Ashby, 1952, 1956)。
再者,一切形式的科学预测(Prediction)与适应性学习(Learning),其内在可能性均以约束的存在为逻辑前提。“系统具有可预测性”,在形式上等价于“系统的状态轨迹集合受到确定性或统计性约束”(Ashby, 1956, S.7/18)。若一架在空中飞行的敌机在每一秒钟都可以完全无视动力学惯性与空气阻力,以等概率突跳到三维空间中的任意一点,则任何基于雷达数据的卡尔曼滤波与维纳外推预测都将在数学上彻底失效;防空预测算法之所以能够根据历史轨迹外推出未来的命中区域,正是因为飞机的质量惯性、最大转弯过载、气动包线以及驾驶员的生理反应极限对空间轨迹构成了强烈的动态约束。
学习机制亦然。巴甫洛夫在经典的条件反射实验中,将声响刺激、热触觉刺激与食物强化结合,在多种可能的刺激组合中,实验者仅选择性地反复呈现特定的配对关系——非全集的选择性呈现构成了刺激序列的约束,正是这种结构性约束才使得神经系统能够提取相关性;若一切刺激在时间与空间上都是完全独立且均匀随机的,联想学习的神经回路将无法形成任何突触强化(Ashby, 1956, S.7/21)。
最后,这一认识论深刻反哺了第二章的黑箱理论。当观察者面对一个未知的复杂黑箱时,所谓的“发现黑箱内部存在机器”,其本质正是在漫长的输入-输出记录中识别出某种特定形式的时序约束——序列不是毫无规则的随机遍历。观察者通过将冗长繁琐的数据流压缩重编码为一个确定性变换函数与初始状态输入,从而将现实中的约束转化为可利用的系统模型(Ashby, 1956, S.7/19)。
习题 3.1-3
多领域约束与多样性压缩判别:针对下列三个具体系统,精确指明约束所联系的两个集合——无约束的宏观参照集合与施加约束后的实际发生集合,并给出多样性或自由度的定量变化:
(1)某专科院校的招生简章明确规定“仅招收男性学员”;
(2)处于正常走时运行状态的机械钟表的时针与分针角位置系统;
(3)在人类 ABO 血型遗传系统中,已知母亲的表型为 O 型、新生儿的表型亦为 O 型,试分析该新生儿生父的可能血型表型集合受到的约束。
(1)集合界定:无约束的较大参照集合为人类性别的全集 \(S_1 = \{\text{男}, \text{女}\}\),其多样性为 \(V(S_1) = \log_2 2 = 1.0\text{ 比特}\);受到招生规定约束后的集合为单元素子集 \(S_2 = \{\text{男}\}\),其多样性为 \(V(S_2) = \log_2 1 = 0\text{ 比特}\)。
多样性变化:招生政策施加了 1.0 比特的刚性约束,将性别维度的先验不确定性彻底压缩消除。
(2)集合界定:若时针与分针在机械上完全解耦并由独立马达自由驱动,两根指针在表盘圆周上的角位置取值集合为环面乘积空间 \(S_1 = [0, 2\pi) \times [0, 2\pi)\),具有 2 个独立的连续自由度;而实际运行的钟表内部装配有固定的传动齿轮系,强制约束分针角速度与时针角速度满足传动比 \(\omega_{\text{min}} = 12\,\omega_{\text{hour}}\),因此实际系统在状态空间中的运动轨迹被限定在环面上的一维闭合流形上。
自由度变化:内部传动装置施加了 1 个自由度的运动学刚性约束,使系统的物理自由度由 2 降为 1。
(3)集合界定:在人类群体中,ABO 血型系统的表现型全集包含 4 种取值:\(S_1 = \{\text{A型}, \text{B型}, \text{AB型}, \text{O型}\}\),其无条件分类多样性为 \(V(S_1) = \log_2 4 = 2.0\text{ 比特}\)。依据孟德尔遗传定律,O 型表现型对应于隐性纯合基因型 \(ii\)。已知母亲为 O 型(提供一个 \(i\) 等位基因),婴儿表现型亦为 O 型(基因型必为 \(ii\)),则生父必须向婴儿提供另一个隐性等位基因 \(i\)。由于 AB 型个体的基因型为 \(I^A I^B\),无法提供 \(i\) 等位基因,因此生父的基因型不可能为 \(I^A I^B\)(即表型不可能为 AB 型)。受遗传法则与亲代子代观测约束后的可能表型集合缩减为 \(S_2 = \{\text{A型}(I^A i), \text{B型}(I^B i), \text{O型}(ii)\}\)。
多样性变化:生父表型集合由 4 种压缩至 3 种,其实际多样性为 \(V(S_2) = \log_2 3 \approx 1.5850\text{ 比特}\),遗传约束排除了 AB 型表型,消除了 \(2.0 - 1.5850 \approx 0.4150\text{ 比特}\) 的多样性。
3.1.5 机器中的多样性
在建立集合测度与约束理论之后,控制论必须回答一个根本性的动力学问题:单台机器的运行变换,对输入或状态集合的多样性究竟产生何种作用?
设有一台确定性的单值离散机器,其内在状态转移由单值变换(Single-valued transformation)\(Z\) 严格规定:
该变换将状态 \(A\) 映射为 \(B\),将 \(B\) 映射为 \(C\),并将 \(C\) 保持在 \(C\)(\(C\) 为该系统的吸收平衡态)。表 3.1-2 展现了将该变换作用于一个包含 10 个操作数(Operands)的具体状态序列时,系统状态在两步转移过程中的演化轨迹。
| 步数与序列位点 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | 10 | 可分辨类别数 | 多样性(比特) |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 初始操作数集合 | B | B | A | C | C | C | A | A | B | A | 3 (A, B, C) | \(\log_2 3 \approx 1.58\) |
| 施加变换 \(Z\) 一次后 | C | C | B | C | C | C | B | B | C | B | 2 (B, C) | \(\log_2 2 = 1.00\) |
| 施加变换 \(Z\) 两次后 | C | C | C | C | C | C | C | C | C | C | 1 (C) | \(\log_2 1 = 0.00\) |
从表 3.1-2 可以清晰地观察到:初始序列中包含 \(A, B, C\) 三种互不相同的状态(多样性约为 1.58 比特);经过一步变换后,所有原本处于 \(A\) 的位点均变为 \(B\),处于 \(B\) 与 \(C\) 的位点均变为 \(C\),状态全集中仅剩下 \(B\) 与 \(C\) 两种(多样性降为 1.00 比特);当再次施加变换时,所有位点均不可逆地汇聚于平衡态 \(C\),状态多样性最终归零。图 3.1-2 给出了变换 \(Z\) 的运动学轨迹图以及该集合多样性的衰减曲线。
多样性在变换 \(Z\) 作用下的衰减绝非个案,而是单值机器所普遍服从的一项基本数理定理:
单值变换下的多样性非增定理(Theorem of Non-Increasing Variety under Single-Valued Transformations):
设 \(S\) 为有限可能状态集合,\(T\colon S \to S'\) 为单值确定性变换。则像集 \(T(S)\) 的多样性绝不可能超过原集合 \(S\) 的多样性,即:
\[ |T(S)| \;\le\; |S|, \qquad V(T(S)) \;\le\; V(S) \]
等号成立当且仅当变换 \(T\) 在限制于集合 \(S\) 上时是单射(Injective,即一一对应的映射)。若存在任意两个互不相同的元素 \(x \neq y \in S\) 使得 \(T(x) = T(y)\)(即发生状态汇流,Confluence),则像集的多样性严格下降(Ashby, 1956, S.7/22)。
该定理的数理机制完全根植于单值变换的拓扑性质:在确定性单值机器中,每个状态在每一步只能确定地转移至唯一的后继状态,因此运动学图中只允许发生多对一的汇流,而绝不允许出现一对多的自发分叉。每当两个不同的状态转移至同一后继状态时,系统便永久性地损失了一个可分辨的区别,且在缺乏外部输入的封闭机器内部没有任何逆向机制能够重新补偿这一区别。单值变换作用于集合,其多样性必然是单调不增的。
习题 3.1-4
多样性非增定理的形式化推证与控制论涵义:设 \(S = \{x_1, x_2, \ldots, x_n\}\) 为有限集合,其基数为 \(n\)(元素彼此互不相同),\(T\colon S \to S'\) 为定义在 \(S\) 上的单值映射(不预设封闭性)。
(1)试运用映射与集合论基本原理,严格证明 \(|T(S)| \le |S|\);
(2)给出像集多样性严格等于原集合多样性(\(V(T(S)) = V(S)\))的充分必要条件;
(3)结合物理学中的热力学第二定律与信息存储设备的退化现象,阐明该定理对于封闭机器内部“信息不能凭空自发产生”的控制论意义。
(1)形式化证明:由像集的严格定义,\(T(S) = \{y \in S' \mid \exists x \in S, T(x) = y\}\)。根据映射的单值性定义,集合 \(S\) 中的每一个元素 \(x_i\)(\(i=1,\ldots,n\))在 \(T\) 作用下有且仅有一个确定的像 \(T(x_i)\)。因此,像集可以表示为项的罗列: \[ T(S) = \{T(x_1), T(x_2), \ldots, T(x_n)\} \] 该罗列式中最多包含 \(n\) 个元素。若存在下标 \(i \neq j\) 使得 \(T(x_i) = T(x_j)\),根据集合元素的互异性公理,相同的元素在集合中仅被计算一次,因此实际像集的基数严格小于 \(n\)。由此恒有: \[ |T(S)| \le n = |S| \] 由于对数函数 \(f(u) = \log_2 u\) 在区间 \((0, \infty)\) 上严格单调递增,对两端取对数得: \[ V(T(S)) = \log_2 |T(S)| \le \log_2 |S| = V(S) \] 证毕。
(2)充要条件:等号 \(|T(S)| = |S|\) 成立的充分必要条件是:对于 \(S\) 中的任意元素对 \(x_i, x_j\),若 \(x_i \neq x_j\),则必有 \(T(x_i) \neq T(x_j)\)。在数学上,这恰好是映射 \(T\) 在集合 \(S\) 上满足单射(One-to-one injection)的形式定义。反之,若 \(T\) 不是单射,则必存在状态汇流,导致像集基数严格缩减。
(3)控制论与物理意义:该定理深刻揭示了确定性孤立机器的内在局限性:封闭机器的确定性单值动力学本身,无法自发创造出新的区别与多样性。相反,如果机器存在不可逆汇流(如摩擦耗散、数字舍入、逻辑与/或门操作),集合的多样性随时间不可逆地流失。这构成了控制论视角下的“熵增”或“退化”现象:一个利用物理状态存储信息的存储设备(如电容电压、磁性介质),若在孤立状态下历经耗散变换,原本用以区分不同消息的多个状态可能自发衰减合并为同一个基态,导致存储信息永久丧失。因此,多样性若要维持或增长,必须从机器的外部环境输入中汲取,这直接导向下一节关于多样性传输的规律。
最后,必须澄清状态集合与现实物理机器之间的对应关系。在工程与自然界中,并没有任何单台物理机器能够在同一时刻同时处于多个不同的状态之中(Ashby, 1956, S.7/23)。那么,研究“状态集合的多样性”究竟在物理上对应何种现实?控制论指出其存在三种清晰的物理诠释路径:
- 同质机组系综(Ensemble of Replicates):在宏观工业与生物学中,考察的往往是同一规范制造的大批产品(如数以万计的同型号内燃机)或同一基因背景的生物个体群体。各台机器具有完全相同的内部变换 \(T\),但在某一特定时刻由于历史输入不同而分别处于不同的状态,整个机组在状态空间中展现出宏观多样性;
- 单机时态遍历(Temporal Repertoire):考察同一台物理机器在漫长时间跨度内,从不同初始条件出发所历经的全部历史表现;
- 认知不确定性集合(Epistemic Set):外部观察者虽然知晓机器的内部变换规则,但因测量受限而无法获知此时此刻机器所处的精确状态。此时,状态集合代表了观察者所面对的全部假设可能性。
由此可推得两条决定性的实践推论(Ashby, 1956, S.7/24):其一,对于一台处于封闭运行中的孤立确定性机器,外部观察者若仅知道其单值变换规则但无法进行实时观测,则观察者关于机器内部状态的主观不确定性只会随时间单调减少或保持不变,绝不可能自发增加(因为可能状态集合在单值变换下只能汇流收缩);其二,任何试图完全依赖机器处于特定内部状态来存储历史消息的系统,其存储分辨能力随着不可逆汇流的进行将不可阻挡地发生退化。
机器不能凭空制造多样性。然而,带输入的开放机器能够完成另一项更为伟大的任务——将输入端呈现的多样性集合忠实地转移、重写并映射至输出端,这便是多样性的传输与编码理论。在下一节中,我们将全面展开这一控制论的核心基石。
关键术语
- 多样性 (variety)
- 一个集合所包含的可分辨状态的绝对数量;在工程计算中通常取以 2 为底的对数,以比特(bit)为测度单位。
- 可分辨 (distinguishable)
- 两个状态能够被具有特定辨别分辨率的观察者判定为不同;多样性测度的前提条件,依赖于观察者的辨识准则。
- 比特 (bit)
- 对数多样性的标准计量单位,亦即“二进制位”的缩写;元素数量取 \(\log_2\) 所得数值,代表二选一选择所对应的多样性。
- 约束 (constraint)
- 两个集合之间的一种关系:当实际发生的多样性严格小于条件未受限时理论可能的多样性时即存在约束;表现为可能性空间的收缩。
- 独立 (independence)
- 多维状态向量集合的总多样性精确等于其各个分量多样性代数和时的系统属性,意味着分量组合在空间中完全展开。
- 自由度 (degrees of freedom)
- 能够生成与当前受约束状态空间相同多样性所需的最小独立二元分量(或独立连续变量)的数目。
- 冗余 (redundancy)
- 约束概念在通信与信息理论中的对偶表述;用于度量消息序列中因内在统计关联而未被充分利用的可能性余量。
- 单值变换 (single-valued transformation)
- 每个操作数均有且仅有唯一后继像的确定性映射;在此类变换作用下,系统的状态集合多样性服从单调非增定理。
- 状态汇流 (confluence)
- 单值变换中两个或多个互不相同的状态映射至同一后继状态的现象;单值机器中多样性发生不可逆衰减的微观几何机制。
参考文献与延伸阅读
- Ashby WR. 1956. An Introduction to Cybernetics. Chapman & Hall / John Wiley & Sons.(特别参见第七章:Quantity of Variety)。
- Shannon CE. 1948. A mathematical theory of communication. Bell System Technical Journal 27:379–423, 623–656.
- Shannon CE, Weaver W. 1949. The Mathematical Theory of Communication. University of Illinois Press.
- Wiener N. 1948. Cybernetics, or Control and Communication in the Animal and the Machine. The Technology Press / John Wiley & Sons.
- Ashby WR. 1952. Design for a Brain: The Origin of Adaptive Behaviour. Chapman & Hall.
- von Neumann J. 1951. The general and logical theory of automata. In: Jeffress LA, ed. Cerebral Mechanisms in Behavior: The Hixon Symposium. John Wiley & Sons:1–31.