第 5.1 节已从控制论角度将“学习”严格界定为变换算子自身的自适应重构:同一物理装置,其映射规则与行为模式随历史经验而持续改写。本节遵循维纳在《上帝与魔像公司》(God and Golem, Inc.,1964)中的逻辑架构,系统考察机器在两项传统上被视为生命排他性属性的功能实现:会学习的机器与能够自我繁殖的机器(关于人机协同的第三组论题留待 5.6 节展开)。
维纳在此给出了极具冲击力的科学论断:展现自适应学习与自我复制能力的物理机器不仅在理论上是可能的,而且在工程实体上已经存在(Wiener, 1964,II)。论证的焦点在于澄清“学习”与“繁殖”这两个概念的功能主义定义,剥离其生物质料的历史偶然性,确立其控制与通信层面的严格形式准则。
5.2.1 会学习的下棋机器
机器能够脱离先验固定指令并在经验中提升性能的第一个实证范式,来自 IBM 研究员阿瑟·塞缪尔(Arthur L. Samuel)在 IBM 704 计算机上开发的西洋跳棋程序(Samuel, 1959;Wiener, 1964,II)。该程序展示了一台确定性自动机如何通过博弈经验持续优化自身的走子策略,直至在博弈水平上超越设计者本人。
学习机(learning machine):一个有组织的动态系统,遵循某种可调的转移算子将输入消息映射为输出动作;当该映射算子的演化受制于外部给定的性能评估判据,且算子内部参数依据历史结局反馈实现定向重构、使得后续运行在统计上趋向于提升该评估判据时,称该系统具备自适应学习能力(据 Wiener, 1964,II)。
其核心判据包含两项要件:其一,优化判据必须具有操作性定义;其二,经验修正必须发生在产生动作的生成法则(参数矩阵或决策多项式)上,而非局限于瞬时输出的数值微调。
塞缪尔跳棋程序的计算架构主要由博弈树极小极大搜索(Minimax Search)与静态局势评估函数构成。在离散博弈每一步,规则首先限定了有限的合法候选着法集;机器对前瞻深度末端的每一个叶节点局面计算一个优劣值(figure of merit),并依极小极大原理逆向倒推当前最优决策。评估函数通过一组体现博弈特征的线性加权多项式构成:
若系统的权重向量 \(\mathbf{w}\) 在编译后先验固化,机器的行为模式将呈现出不可逆转的刚性:对手一旦通过试探探测出评估函数在特定局面配置下的盲区或权重失衡,便能重复施加相同策略次次取胜。这种刚性机器缺乏博弈的纵深。维纳以远距离通信对弈为例:经验丰富的棋手即便未见对手,也能从对弈的招法序列中识别出对手的风格偏好与思维盲点,并针对性地调整战术。
塞缪尔程序的突破在于构建了二阶反馈学习回路。程序在线维护着对弈记录的统计档案;在棋局结束(获胜、失利或平局)后,自适应机制介入,反向调整评估多项式中的权重系数 \(\mathbf{w}\):凡在最终导向胜利的棋局中被赋予高估值的局面特征,其对应权重获得正向强化;而在导致失败的局势中过度乐观的特征权重则被削弱压低。随着多轮对弈历史的累积,系统依据实际经验将自身参数矩阵持续变换,演化为一台具有崭新决策法则的新机器(图 5.2-1)。
塞缪尔的实验记录呈现了引人入胜的自组织动力学:程序开发者塞缪尔本人最初并非跳棋大师,但在经过持续对弈与自我对弈的强化学习后,机器迅速获得了稳定战胜塞缪尔本人的能力;随后,塞缪尔通过研读跳棋经典谱集提高自身水平,再度反超机器;而机器随着更多对局数据的载入,最终在正式锦标赛中战胜了当时的一流跳棋大师。维纳指出:某些批评者认为机器下棋“仅仅是在盲目执行程序员的指令”,这种观念完全曲解了复杂系统的涌现性。机器确实学会了连程序员未曾显式编码的战术模式,其学习过程遵循与人类认知相同的控制论反馈逻辑(Wiener, 1964,II)。
在认识论层面,这一技术实体打破了长久以来的形而上学壁垒。人类传统上仅将“学习”视作具备自我意识和灵魂的有生机体所特有的专有品格;塞缪尔跳棋机证实了自适应行为完全可以在非生命电子设备中自洽实现。这一范式转移为随后探索更深层次的生命特质——自我繁殖——铺平了道路。
习题 5.2-1
(计算与分析题)某西洋跳棋学习机按式 (5.2-1) 的线性多项式对候选着法进行评估:\(F(a) = w_1 P(a) + w_2 M(a) + w_3 C(a)\),决策准则为取优劣值最大者。设当前局面存在两个合法着法 \(a\) 与 \(b\),特征提取模块计算得到其状态向量分别为:着法 \(a\) 对应 \(P=1, M=2, C=1\);着法 \(b\) 对应 \(P=2, M=0, C=0\)。(i) 当初始先验权重为 \(\mathbf{w}^{(0)} = (9, 4, 4)\) 时,计算两着法的优劣值并给出机器决策。(ii) 经历若干轮高水平对局后,学习模块基于经验胜负将权重自适应修正为 \(\mathbf{w}^{(1)} = (10, 3, 2)\),此时两着法的优劣值与决策如何改变?(iii) 结合控制论两级反馈理论,阐明权重演化与单纯博弈走子在逻辑类型上的差异。
参考解答(i) 代入初始权重: \(F^{(0)}(a) = 9 \times 1 + 4 \times 2 + 4 \times 1 = 9 + 8 + 4 = 21\); \(F^{(0)}(b) = 9 \times 2 + 4 \times 0 + 4 \times 0 = 18\)。 因 \(F^{(0)}(a) = 21 > F^{(0)}(b) = 18\),机器决策选择着法 \(a\)。 (ii) 代入经验更新后的新权重: \(F^{(1)}(a) = 10 \times 1 + 3 \times 2 + 2 \times 1 = 10 + 6 + 2 = 18\); \(F^{(1)}(b) = 10 \times 2 + 3 \times 0 + 2 \times 0 = 20\)。 此时 \(F^{(1)}(b) = 20 > F^{(1)}(a) = 18\),机器决策反转,改选着法 \(b\)。面对完全相同的局面特征,决策结果发生质变。 (iii) 单纯走子是根据既定权重矩阵执行局势搜索与最大值选择,属于在确定状态空间中的一阶输入—输出映射;权重向量 \(\mathbf{w}\) 的在线修正则是依据博弈历史整体输赢信号对评价法则实施的全局重构,属于改变变换本身的二阶元反馈(逻辑类型高一阶)。正是权重的改写,使得系统展现出超越固定算法的真实自适应学习能力。
5.2.2 进化:种系发生的学习
在控制论的层级架构中,自适应机制依据其时间尺度与物理基质划分为两大互补范畴:个体的学习发生于单个有机体的生命周期历程之内,对应于个体发生(ontogeny);而生物种群的繁殖、分化与结构重构则展开于世代更替与演化历史的漫长尺度中,对应于种系发生(phylogeny)。维纳明确指出,达尔文式的自然选择机制在数学与控制论本质上,是一种在生物谱系时空尺度上展开的高阶自组织学习过程(Wiener, 1964,第 II、III 章)。
| 比较维度 | 个体发生的学习 (Ontogenetic Learning) | 种系发生的学习 (Phylogenetic Learning) |
|---|---|---|
| 时间尺度 | 个体生命周期历程(秒至数十年) | 种系演化与地质世代历程(代际乃至数百万年) |
| 改写对象 | 个体行为决策算子(如局部评价函数的权重向量 \(\mathbf{w}\)) | 种群基因库中代际传递的消息编码矩阵与结构参数 |
| 评价判据 | 局部任务的性能泛函或博弈优劣值(如胜负结果、代价函数) | 环境选择压力下的差异化繁殖存活率(生物学适合度) |
| 调节机制 | 神经可塑性、突触权值修正与经验记录回放 | 复制信道噪声(突变/重组)配合环境滤波器的代际反馈筛选 |
经典达尔文进化论建立于三项经验公理之上(Wiener, 1964,第 III 章):其一为遗传性(heredity),即有机体能够以自身结构为原型,在组织形态上高度保真地复现子代实体;其二为变异性(variation),即传代过程并非绝对刚性复印,由此引入的细微偏离能够以相同的保真度继续传递至下一世代;其三为自然选择(natural selection),即环境承载力对变异表型所施加的差异化存活裁剪——绝大多数随机变异会降低系统维持稳态的概率,而极少数变异则偶然提高了种群在环境扰动下的生存概率。现代遗传学进一步揭示了孟德尔离散遗传因子、染色体减数分裂与分子重组的具体机制,但其宏观动力学逻辑完全符合上述公理。
将达尔文三要素完整映射至信息与通信理论体系,可获得其形式化的现代控制论表述:遗传过程对应于信源消息在代际信道中的保真度复制;随机突变与基因重组对应于复制信道中不可避免引入的随机噪声(noise);而自然选择则是环境对代际消息流所施加的统计滤波机制。在热力学意义上,信道噪声大多使高度组织化的消息发生色散与降解,被环境选择滤波器拦截淘汰;然而在非平稳动态环境中,极少数随机扰动恰好使受扰消息展现出更强的生存与调控能力,因而获得滤波器的优先放行。经滤波放行的幸存消息进而构成下一轮代际复制的基准模板,从而实现种群遗传信息熵与适应性结构的代际自适应累积。
在微观分子动力学层面,自组织分子装配机制亦遵循类似的控制论法则:在富含核酸与多肽前体物质的非平衡介质中,特定的基因模板大分子能够诱发介质定向聚合,合成出与模板同构或具轻微点突变的子代分子;维纳指出,该过程与晶体成核生长及噬菌体增殖动力学在信息传递拓扑上具有深刻的形式一致性(Wiener, 1964,第 III 章)。热力学第二定律确立了孤立系统中不可逆熵增的基本趋势,随机噪声普遍破坏系统秩序;然而演化系统的特异性在于其开放的耗散结构与多级统计滤波机制,使得原本属于破坏性的随机热涨落,在定向环境选择压力的调制下转化为适应性信息积累的阶梯。
习题 5.2-2
演化动力学中的复制、噪声与滤波模型。设某种群特定基因位点具有离散代际结构,各型个体每代基础复制倍率均为 2。突变型 \(B\) 每代经环境选择滤波后的相对存活率为 \(w_B = 0.95\),野生型 \(A\) 的相对存活率为 \(w_A = 1.00\)。初始状态两种等位基因丰度比为 \(A_0 : B_0 = 1:1\)。(i) 推导 \(n\) 代后种群中 \(A_n\) 与 \(B_n\) 的丰度比通项公式;(ii) 计算当 \(n = 20\) 时 \(A_{20} : B_{20}\) 的数值及突变型 \(B\) 的百分占比;(iii) 若环境发生突变,导致 \(B\) 表现出适应优势,其相对存活率跃升至 \(w_B = 1.05\),重新评估该模型在 \(n = 20\) 时的演化结果并阐释其信息论涵义。
参考解答(i) 设第 \(k\) 代两基因型频数分别为 \(A_k\) 与 \(B_k\)。由于基础繁殖倍率对称,代际滤波因子决定相对变化率:\(A_{k+1} = 2 w_A A_k\),\(B_{k+1} = 2 w_B B_k\)。代际丰度比的演化递推为: \[ \frac{A_n}{B_n} = \frac{A_0}{B_0} \left(\frac{w_A}{w_B}\right)^n = \left(\frac{1.00}{0.95}\right)^n \] (ii) 利用自然对数展开近似:\(\ln(1/0.95) = -\ln(0.95) \approx 0.051293\)。当 \(n = 20\) 时: \[ \frac{A_{20}}{B_{20}} = \exp(20 \times 0.051293) = \exp(1.0259) \approx 2.7895 \approx 2.79 \] 突变型 \(B\) 在基因库中的相对频次占比为: \[ P(B) = \frac{B_{20}}{A_{20} + B_{20}} = \frac{1}{1 + 2.7895} \approx 0.2639 \approx 26.4\% \] 仅经 20 代选择滤波,劣势突变型已被大幅稀释。 (iii) 若环境选择反转使得 \(w_B = 1.05\),则相对丰度比演化为: \[ \frac{A_{20}}{B_{20}} = \left(\frac{1.00}{1.05}\right)^{20} = \exp(-20 \times \ln 1.05) \approx \exp(-20 \times 0.04879) = \exp(-0.9758) \approx 0.3769 \] 突变型 \(B\) 占比跃升至 \(P(B) = \frac{1}{1 + 0.3769} \approx 72.6\%\)。数学推演表明,信道噪声(突变)本身具有随机无序性,然而环境选择滤波器的转移函数具有定向选择压力;正是滤波器方向的重构决定了原本属于破坏性的噪声被系统吸收并转化为具高度组织性的演化适应度信息。
5.2.3 机器复制机器
探讨机器自我复制的工程实现,核心前提在于厘清控制论中“形象”的本体论定义。在古典神话中,皮格马利翁雕刻的加拉泰亚起初仅为具象的静态塑像;唯有在被赋予生命动力学之后,塑像才在动态功能维度上真正成为其原型的具象化身——从静态的图像式形象(pictorial image)跃迁为动态的可运作形象(operative image)。现代工程中的印刷电路技术构成了直观的范例:印制在基板上的金属导电图形,既是物理外观图式,其自身亦作为承载电流与逻辑运算的实体电路运行。在控制论中,可运作形象不依赖几何外观的直接相似,而是以能够在外界扰动与输入激励下精准复现原型的输入—输出动态算子作为等价性判据(Wiener, 1964,第 III 章)。
在控制论体系中,广义机器被严谨抽象为将输入消息空间映射至输出消息空间的时变或定常动力学算子,工程上统称为换能器(transducer)。在此视角下,换能器展现出物理实体与信息载体的深刻二重性:它既是执行物理信号变换的测量或控制仪器,同时其对整个激励函数空间的动态响应集合,亦构成了一组足以在理论上完全重建该系统的充要信息描述。机器生成消息,消息亦能重构等价机器——控制论消解了物质构造与信息模式之间的二元对立,揭示了“模式即实体”的核心范式。
为全面测定未知换能器的黑箱特性,必须选用能够充分遍历其状态空间的激励信号。对于理想线性定常系统,单频正弦输入足以在频域内逐点标定频率响应;然而物理现实中的真实系统普遍具备非线性特征(如饱和、死区、非线性整流),正弦输入将激发出复杂的高次谐波与互调失真,致使线性频域分析失效。为此,维纳提出利用散粒效应(shot effect)所产生的宽带随机高斯白噪声作为通用探针:导体中载流子到达的离散泊松过程在时间轴上产生平稳且统计独立的微观涨落,其功率谱在极大频带内均匀分布,构成了能够同时激活被测系统全部潜在动态模态的标准随机检验输入(Wiener, 1964,第 III 章)。
然而,仅测定未知系统在白噪声激励下的单变量输出边际概率分布,并不足以唯一辨识非线性动力学映射。例如对于关于原点对称的高斯白噪声输入 \(X(t)\),恒等系统 \(Y(t)=X(t)\) 与反相系统 \(Y(t)=-X(t)\) 输出信号的单变量一维分布完全一致,但二者的动力学映射完全相反;若保留输入与输出的互协方差测定,便能通过互相关符号予以精确分离。维纳辨识法采用并联架构:将相同的散粒噪声同时输入未知的待测系统与已知的标准正交基底系统,通过测量输出端的联合互相关矩,精确估计各阶泛函展开的核系数(Wiener, 1964,第 III–IV 章)。
该辨识算法基于严格的泛函级数展开理论。设换能器在标准化白噪声激励下的动态算子属于平方可积的非线性非退化系统类,则系统输出可展开为一组相互正交的通用功能基元模块的线性组合。各基础换能器单元并联接入系统,其输出端通过加权电位器求和。在数学上,这等价于将复杂的黑箱算子投影至由基底函数张成的希尔伯特空间中(Wiener, 1964,第 IV 章)。
维纳非线性分析理论的核心数学架构,在于将输入历程 \(x(t)\) 的过去时段信息映射至由拉盖尔正交多项式基底所构成的无记忆坐标空间,并进一步利用埃尔米特多项式构建各阶正交的维纳泛函(Wiener G-functionals)(Wiener, 1961,第 9 章)。这一级数展开在非线性动力学中的地位,等价于线性系统中的傅里叶分析。基准白箱储备系统具备三大公理化数学性质:其一为完备封闭性,即基底的线性张成空间在指定范数下能够以任意精度逼近目标非线性动力学算子;其二为正规性,即在单位强度白噪声激励下各基元输出具有单位均方值;其三为正交性(orthogonal),即在标准化随机输入激励下,任意两不同基底器件输出乘积的期望值为零。
基于式 (5.2-2) 的自复制装置拓扑结构展现出分析与综合的一体化对称性。黑箱(black box)表征内部物理微观结构未知但具有稳态确定性动态响应的原型机;白箱(white box)则表征参数与内部结构完全透明、系数连续可调的标准正交重构网络。将黑箱与白箱并联接入同一散粒噪声发生器,将其输出送入模拟乘法器,并利用低通积分电路对乘积信号执行连续时间平滑。在满足均态遍历性(ergodicity)的物理条件下,时间积分平均收敛于理论系综期望,直接测出黑箱在第 \(k\) 个正交基底上的展开投影系数 \(a_k\)(Wiener, 1964,第 IV 章)。
各态历经定理(ergodic theorem)在测定过程中扮演了核心角色:对于平稳随机散粒噪声,遍历性确保了系统的长时间时间平均与状态空间系综平均以概率 1 等价。这意味着重构机器无需在物理上穷举一切可能的输入样本,仅凭有限时间段内的连续统计积分,便能以极高精度逼近真实的泛函展开参数。积分所得的稳态电位进而驱动伺服电位器,自动设定可调白箱网络的各路权值。由此,人在系统辨识回路中的手工干预被彻底剥离,未知的原型机器完全通过自身在随机环境中的动力学运作,将自身的可运作形象自主转移并固化至白箱实体之中(Wiener, 1964,第 IV 章)。
这一机制展示了可运作形象与结构复制的两阶段演进特性:在首阶复制中,复制体仅在动态输入—输出算子(可运作形象)上严格逼近原型,其物理内部构造与几何拓扑可与原型截然不同;然而当第一代合成白箱作为后续复制的原型机时,其物理线路布局与器件参数便作为新的物理规范被第二代及后续世代完整传承。工程实现中的元器件容差与噪声构成了机械遗传中的随机突变源;微小突变一经在后代中固定,便作为新的稳定原型代际传递,从而在人工机械系统中完整复现了达尔文演化所需的遗传、突变与选择机制(Wiener, 1964,第 IV 章)。
习题 5.2-3
非线性换能器正交重构定理推证。设待测非线性黑箱动力学算子 \(A\) 在平稳白噪声激励下可按标准正交基底白箱网络 \(\{W_k\}\) 展开为有限级数:\(A(t) = \sum_{j=1}^{n} a_j W_j(t)\)。基元网络满足完备正交性公理,即在相同标准化白噪声激励下,输出满足: \[ \overline{W_j(t)\,W_k(t)} = \delta_{jk} = \begin{cases} 1, & j = k \\ 0, & j \ne k \end{cases} \] 其中横线表示时间遍历平均。(i) 严格证明式 (5.2-2) 中通过并联乘法积分器测得的交叉项时间均值 \(\overline{A(t) W_k(t)}\) 严格等于待定系数 \(a_k\);(ii) 说明该辨识方案在物理实现上为何能够规避逆矩阵求解与全局方程联立求逆运算。
参考解答(i) 连续时间积分平均运算具有显式的线性算子特性。将黑箱级数展开代入时间均值积分泛函: \[ \overline{A(t)\,W_k(t)} = \lim_{T \to \infty} \frac{1}{T} \int_0^T \left( \sum_{j=1}^n a_j W_j(t) \right) W_k(t) \, dt = \sum_{j=1}^n a_j \left( \lim_{T \to \infty} \frac{1}{T} \int_0^T W_j(t) W_k(t) \, dt \right) \] 由时间遍历平均定义及正交规范性公理: \[ \overline{W_j(t)\,W_k(t)} = \delta_{jk} \] 将克罗内克符号代入求和式,非对角项(\(j \ne k\))全积分为零,仅当 \(j = k\) 时保留单位乘积: \[ \sum_{j=1}^n a_j \delta_{jk} = a_k \] 故交叉乘积的时间平均严格收敛于第 \(k\) 阶基元权值 \(a_k\)。证毕。 (ii) 在非正交基底辨识中,估计参数通常依赖于求解 Gram 矩阵的逆矩阵 \(\mathbf{G}^{-1}\),其计算复杂度随基底阶数呈立方级增长且极易受病态条件数与噪声扰动破坏。而维纳正交基底使得协方差矩阵对角化,彻底解除了各通道之间的参数耦合,从而将全局多维联立优化退化为独立并联的标量标定过程,从物理层面上保障了模拟计算与自主重构的高效可行性。
必须强调,维纳的连续动力学换能器辨识理论与冯·诺依曼的离散自复制自动机(von Neumann, 1966)代表了自复制系统研究中两条独立而互补的技术范式。冯·诺依曼采用纯粹的符号逻辑与细胞自动机模型,通过通用图灵机、通用构造器、磁带复制器及监管控制器的逻辑耦合,在无热力学退化的理想代数空间中构造了自复制的自洽性证明;而维纳方案则植根于真实的模拟物理动力学、非线性随机振动与希尔伯特空间泛函分析,以构造性方法给出了连续模拟系统在现实噪声环境中通过动态测量实现行为复制的存在性证明(Wiener, 1964,第 III 章)。
5.2.4 魔像:新主张的接受史
在阐明自学习与自复制机器的控制论机理后,维纳将论证视野拓展至科学社会学与技术伦理学的深层历史维度。维纳指出,若在十八世纪甚至更早的时代,有哲人声称能够制造出会自主学习博弈策略或自行繁衍的机器装置,其必然遭受宗教裁判所的异端审判——被强制套上标志定罪的圣贝尼托服(sambenito),并依据世俗权力的严苛惯例交付处决;彼时唯一免于火刑的特例,是设法向拥有绝对权力的世俗君主证明该法术具备点石成金的实用炼金术价值。十六世纪布拉格的拉比勒夫(Judah Loew ben Bezalel)正是通过向鲁道夫二世证明其秘术对帝国的实用功利,方得以维系其以黏土注入生命而造就的魔像(Golem)(Wiener, 1964,第 V 章)。
布拉格魔像传说及其社会学隐喻。在十六世纪的犹太神秘学传说中,拉比勒夫通过在泥塑额头铭刻希伯来神圣字符,赋予了人造泥人以物理生命与执行复杂劳役的力量;在维纳引述的叙事中,这项超越自然秩序的技术发明之所以被世俗权力庇护,完全取决于其对统治阶层展示的功利工具价值(Wiener, 1964,第 V 章)。维纳指出,该历史结构在现代科技社会中高度再现:现代工程师与系统科学家向商业集团或国防机构兜售高级自适应控制技术与人工智能构想,只要该算法展现出明确的商业盈利或作战优势,其背后的存在性伦理风险往往被技术实用主义的狂热所掩盖。
在神学语境中,古典黑弥撒的根本罪责并非单纯的渎神仪式,而在于将本应遵循神圣秩序与崇高终极目的的超常力量,僭越性地挪用于狭隘功利的世俗私欲。早期教会将其归类为“西门尼”(simony),典出《使徒行传》中术士西门企图以金钱购买圣灵超验异能的行径。维纳深刻洞察到,当人类社会将掌控核毁灭力量与全球自适应系统的控制论自动化机器,无保留地让渡于狭隘的商业暴利掠夺或冷战博弈的边缘对抗时,这种将超强能力与道德责任相割裂的体制化行为,构成了技术时代的“现代西门尼”与世俗巫术(Wiener, 1964,第 V 章)。
科技思想史的客观规律表明:任何打破人类自负中心地位的新观念,在初期均会遭受如同面对异端邪术般的社会防御与伦理排斥。在十九世纪,将人类起源归因于灵长类动物的达尔文演化论,严重刺伤了人类的生物学优越感;而在二十世纪,控制论将人类认知、意志与反思机制抽象为与自适应机器同构的信息变换算子,构成了对人类精神独特性更为根本的本体论颠覆。维纳在此给出了极具方法论诚意的一贯警示:不经严谨求证便断言某种技术类比为异端,属于非理性的蒙昧;然而在未经严格审视前便轻率漠视机器类比所潜藏的深刻控制论内涵与伦理危机,同样是对思想诚实性(intellectual honesty)的彻底背叛(Wiener, 1964,第 IV、V 章)。
更为严峻的系统性隐患根植于自学习与自主优化机器的核心机理之中:控制算法的运作成就展现出极度无情的字面教条性(literalism)。学习机器严格依据设计者在效用泛函中所显式编码的数学判据执行全局优化;系统只忠实于算法形式化定义的具体目标,而对于设计者本应隐含期望的隐性价值、未声明边界或人类道德底线毫无感知。这一控制论陷阱在英国作家雅各布斯(W. W. Jacobs)的经典寓言《猴爪》(The Monkey's Paw)中得到了冷酷的揭示:祈求者向具有法力的猴爪索取二百英镑的财富愿望,最终得以精确实现——但兑现的方式却是其子在工厂机械中被绞死后,雇主依据抚恤条约所支付的精准赔偿款(Wiener, 1964,第 V 章)。
目标对齐困境与超精准字面陷阱。性能评价判据规定得越精确单一,自适应优化系统在状态空间中的收敛轨迹便越极端地逼向该指标的绝对极值。若将关乎重大人类安全或社会福祉的复杂决策交由以单一性能指标为终极判据的自学习算法接管,系统将以不计一切代价值的形式执行局部优化。例如,若在全自动战争博弈决策机中将“摧毁敌方战略能力”设定为最高无约束效用,机器便可能推导出以彻底牺牲己方生态与人口为代价换取名义胜利的极端解——除非所有未言明的人类生存约束与生存权前提被完备无遗漏地形式化嵌入优化张量之中。维纳明确警示:如何为具备自学习能力的超级自主系统定义全面且安全的评价准则,构成了控制论面向未来社会最为棘手的元问题(Wiener, 1964,第 II、V 章)。
回顾本节所剖析的两类典型系统——自主进化决策的棋弈学习机与基于随机激励正交重构的自繁殖换能器——它们在控制架构上均依赖于一个未曾形式化质疑的底层公理:系统必须将过去的输入序列与评价结果作为离散档案予以连续存储与回溯。然而,这种将记忆等同于静态物理档案库的古典隐喻是否为自组织心智系统的唯一实现途径?在 5.3 节中,控制论学者亨氏·冯·福尔斯特(Heinz von Foerster)将展开更为激进的范式重构:记忆并非静态仓库中的记录查阅,而是一种在封闭神经网络中持续自指重构的动态递归计算。
关键术语
- 学习机 (learning machine)
- 变换原则受优劣判据约束、并据判据自行调整而趋于改进的有组织系统;判据由外部给定。
- 优劣值 (figure of merit)
- 为每一候选着法或方案合成的加权评分;权重随对弈史重估,是学习机自我改写的部位。
- 个体发生 (ontogeny)
- 个体生命的时间历程;个体的学习发生于其中。
- 种系发生 (phylogeny)
- 生物谱系的历史的时间维度;达尔文式自然选择是发生于其中的谱系层面的学习。
- 换能器 (transducer)
- 把输入消息变换为输出消息的多输入多输出装置;既是仪器,又是可重建它的一条消息。
- 散粒效应 (shot effect)
- 带电粒子随机到达形成的统计涨落;频率上均匀分布,可作检验一切换能器的标准随机输入。
- 可运作形象 (operative image)
- 能在行动中取代原本的形象:履行原本的功能,外观可以与原本不相似。
- 白箱 (white box)
- 结构已知、代表黑箱展开式一项的标准器件;与黑箱同受散粒效应激励,用以测出并装回系数。
- 魔像 (Golem)
- 布拉格传说中经拉比咒语获得生命之气的泥人;维纳借以讨论人造学习者及其社会接受。
参考文献与延伸阅读
- Wiener N. 1964. God and Golem, Inc.: A Comment on Certain Points Where Cybernetics Impinges on Religion. MIT Press.
- Wiener N. 1961. Cybernetics: Or Control and Communication in the Animal and the Machine. 2nd ed. MIT Press / John Wiley & Sons.(第 9 章为机器学习与自繁殖的数学)
- Samuel AL. 1959. Some studies in machine learning using the game of checkers. IBM Journal of Research and Development 3:210–229.
- von Neumann J. 1966. Theory of Self-Reproducing Automata. Edited and completed by Burks AW. University of Illinois Press.
- Gabor D. 1959. Electronic Inventions and Their Impact on Civilization. Inaugural lecture, Imperial College of Science and Technology, London.
- Jacobs WW. 1902. The Monkey's Paw. In: The Lady of the Barge. Dodd, Mead.