第4章 · 4.4

4.4 博弈与策略

Games and Strategies
本节系统建立对抗性环境下的博弈控制论与连续系统稳定性分析框架。首先将单步静态调节拓展为时间展开的双重时序交互序列,严格建立结局表与博弈论支付矩阵的数理映射;深入推导两人零和博弈的极小极大定理(Minimax Theorem)、纯策略鞍点判据以及基于凸分析的混合策略最优解;进而构建带输入的博弈机器模型,并在此基础上建立连续调节动力学理论:运用非线性微分方程组、局部线性化雅可比矩阵、特征值谱分析、劳斯—赫尔维茨稳定性判据(Routh-Hurwitz criterion)与李雅普诺夫直接法(Lyapunov's direct method)严格形式化连续调节系统的渐近稳定性;最后分析带学习机制的对弈机器与维纳关于机器正交多项式展开的代数构造,划定博弈控制论的形式边界。

在 4.2 节与 4.3 节的讨论中,调节器面对的环境扰动源 \(D\) 始终被假定为一个无认知、无战略意图的被动物理系统。然而,在生物捕食与防御、免疫对抗、军事对抗以及社会经济运行中,扰动源往往由具有自身明确目标乃至具备自适应学习能力的对手所构成。此时,系统的物理结局不再由单步查表决定,而是由双方交替出招的双重时序动作序列共同决定。阿什比在《控制论导论》(Ashby, 1956,S.12/22)中深刻指出:调节理论在数学本质上与现代博弈论完全同构。本节将从时序矩阵博弈出发,深入推导极小极大准则与混合策略,并进一步引入连续状态动力系统的微分方程稳定性判据,完成对对抗性动态系统的理论刻画。

4.4.1 从结局表到支付矩阵

在复杂的动态环境中,环境冲击与防御反应并非孤立的单次脉冲,而表现为交替展开的离散时间演化轨线(图 4.4-1)。捕食者发起第一阶段的威胁机动 \(D_1\),猎物做出首轮防御姿态调整 \(R_1\);接着捕食者根据猎物的反应变换攻击矢量 \(D_2\),猎物再次施加对抗机动 \(R_2\)……整个交互构成了由双方动作交替交织而成的时序向量序列:

\[ \mathbf{D} = (D_1, D_2, \ldots, D_k), \qquad \mathbf{R} = (R_1, R_2, \ldots, R_k) \]

最终系统的本质变量状态(结局 \(E\))取决于两个序列整体在受控动力学中的复合映射。这一形式在棋盘对弈(白方与黑方的着法序列)、抗生素与耐药菌株演化博弈以及高频金融做市交易中具有完全一致的数学结构。

调节的序列化:一局交互是双重序列 D 序列:捕食者的整个攻击(扰动) R 序列:猎物的整个反应(调节) D₁ R₁ D₂ R₂ D₃ R₃ …… 结局 E 依赖两个序列整体的配对(据 Ashby, 1956, S.12/22 改绘)。 棋局同理:W₁, B₁, W₂, B₂, …… ;4.2 节的一个走法在此对应一整局。
图 4.4-1 调节过程的时序序列化扩展(据 Ashby, 1956, S.12/22 重绘)。在展开的动态对局中,外界扰动与防御反应交织为离散双重序列。4.2 节中结局表的一个单独行和列,在此处对应于博弈树中由走子序列所决定的全过程“策略”。

阿什比确立的第一个数学等价定理在于:控制论中的结局表与冯·诺依曼与摩根斯坦(von Neumann & Morgenstern, 1944)博弈论体系中的支付矩阵(Payoff Matrix)完全同一。设环境扰动选取行策略 \(d \in D\),调节器选取列策略 \(r \in R\)。系统结局 \(E(d, r)\) 可通过指示函数直接数值化为对抗性博弈矩阵:

\[ M(d, r) \;=\; \mathbf{1}\{\, E(d, r) \notin \eta \,\} \]
(4.4-1) \(M(d, r)\) 为定义在 \(D \times R\) 上的损害支付函数:当本质变量落入容许集 \(\eta\) 时取 0(调节成功,损害为零),逸出容许集时取 1(调节失败,系统受损)。

在此形式化下,扰动源 \(D\) 是最大化损害支付的进攻方(Max-player),而调节器 \(R\) 是最小化系统损害的防御方(Min-player)。好调节器的目标,就是在博弈中寻找最优防御策略,使得损害支付恒定为零。

4.4.2 极小极大、鞍点与混合策略

在两人零和博弈矩阵 \(M(d, r)\) 确立后,双方在缺乏对方先期动作情报时的最优决策取决于极小极大准则。设 \(M(d, r)\) 代表调节器向环境支付的损害代价(环境求大,调节器求小):

  • 若调节器 \(R\) 选定某列 \(r\),最恶劣情况下环境将挑选使损害最大的行,故调节器所面临的最坏代价为 \(\max_d M(d, r)\)。调节器通过优化列选择,能无条件确保的最小上界称为博弈上值(upper value, \(\bar{v}\)): \[ \bar{v} = \min_{r} \max_{d} M(d, r) \]
  • 对称地,若环境 \(D\) 选定某行 \(d\),理性的调节器必然挑选使损害最小的列,故环境所能确保的最低收益为 \(\min_r M(d, r)\)。环境通过优化行选择所能担保的最大下界称为博弈下值(lower value, \(\underline{v}\)): \[ \underline{v} = \max_{d} \min_{r} M(d, r) \]

对任意给定的实数矩阵,恒有基础不等式成立:

\[ \underline{v} \;=\; \max_{d}\ \min_{r}\ M(d,r) \;\;\le\;\; \min_{r}\ \max_{d}\ M(d,r) \;=\; \overline{v} \]
(4.4-2) 博弈下值恒不大于上值。当且仅当等号成立时,矩阵存在纯策略鞍点(Saddle point)。
习题 4.4-1

(基础推证)严格证明式 (4.4-2) 所示的极大极小不等式对任意有限实矩阵 \(M \in \mathbb{R}^{m \times n}\) 恒成立;并构造一个 \(2 \times 2\) 矩阵,验证严格不等号 \(\underline{v} < \bar{v}\) 可以成立。

参考解答

证明:任取矩阵中的某一行指标 \(i\) 与某一列指标 \(j\)。根据极值的定义,显然有: \[ \min_{r} M(i, r) \;\le\; M(i, j) \;\le\; \max_{d} M(d, j) \] 固定任意给定的列指标 \(j_0\)。上述不等式左端对所有行 \(i\) 均成立,故对其取关于 \(i\) 的最大值,不等式依然成立: \[ \max_{d} \min_{r} M(d, r) \;\le\; \max_{d} M(d, j_0) \] 注意上式左端已与具体行指标无关,且该不等式对定义域内的每一个可能列指标 \(j_0\) 均成立。因此,上式右端对所有 \(j_0\) 取最小值,不等式方向不变: \[ \max_{d} \min_{r} M(d, r) \;\le\; \min_{r} \max_{d} M(d, r) \] 即严格证明了 \(\underline{v} \le \bar{v}\)。
构造严格反例:取匹配硬币博弈矩阵 \(M = \begin{pmatrix} 1 & -1 \\ -1 & 1 \end{pmatrix}\)。
计算各行最小值:第 1 行最小值为 \(-1\),第 2 行最小值为 \(-1\)。故下值 \(\underline{v} = \max\{-1, -1\} = -1\);
计算各列最大值:第 1 列最大值为 \(1\),第 2 列最大值为 \(1\)。故上值 \(\bar{v} = \min\{1, 1\} = 1\);
此时 \(\underline{v} = -1 < 1 = \bar{v}\),严格不等式成立,该矩阵不存在纯策略鞍点。

当且仅当 \(\underline{v} = \bar{v} = v\) 时,博弈存在纯策略鞍点(saddle point)。图 4.4-2 展示了一个典型的带鞍点 \(2 \times 2\) 损害矩阵。

R(调节器)选列——求损害小 D(扰动)选行 求损害大 α β 1 2 3 1 5 8 行最小 1 5 下值 = max(行最小) = 5 列最大 5 8 上值 = min(列最大) = 5 损害计作 D 方收益: D 求大,R 求小 圈定值 5:所在行的最小值, 又是所在列的最大值——鞍点 R 认定 α:损害至多 5 D 认定第 2 行:损害至少 5 下值 = 上值 = 5,无须隐瞒 行最小取最大、列最大取最小,两值在同一格会合,鞍点即成。
图 4.4-2 两人零和博弈中纯策略鞍点的几何判定(自编算例)。第 1 行元素为 \((3, 1)\),第 2 行元素为 \((5, 8)\)。行最小值分别为 1 与 5,下值 \(\underline{v} = \max\{1, 5\} = 5\);列最大值分别为 5 与 8,上值 \(\bar{v} = \min\{5, 8\} = 5\)。两值在单元格 \((2, \alpha)\) 处重合。该点既是其所在行的最小值,又是所在列的最大值,构成纯策略纳什均衡鞍点,博弈值为 5。

在鞍点处,双方均无需保密自身策略:调节器即便公开发布控制律,环境也无法施加超过 5 的损害;环境即便预先亮明行选择,调节器也无法将损害压低至 5 以下。

当 \(\underline{v} < \bar{v}\) 时,纯策略无法实现稳定均衡,任何固定的纯走法都会被对手针对性破解。此时系统必须引入随机性,采用混合策略(mixed strategy)。设环境在各行上的概率分布为向量 \(p = (p_1, \ldots, p_m)^T\),调节器在各列上的概率分布为 \(q = (q_1, \ldots, q_n)^T\)。双方的期望损害支付为双线性型:

\[ \bar{M}(p, q) = p^T M q = \sum_{i=1}^m \sum_{j=1}^n p_i q_j M_{ij} \]

冯·诺依曼奠基性的极小极大定理(Minimax Theorem)指出:在概率单形紧凸集上,鞍点必然存在(von Neumann, 1928):

\[ \max_{p \in \Delta_m} \min_{q \in \Delta_n} p^T M q \;=\; \min_{q \in \Delta_n} \max_{p \in \Delta_m} p^T M q \;=\; v^* \]
(4.4-3) \(v^*\) 为博弈值。调节器通过按概率分布 \(q^*\) 随机抽取动作,能够无条件确保期望损害不超过 \(v^*\)。
R 的混合概率 q 与 D 的期望支付 期望支付 0 2 4 6 0 1/2 1 q* = 5/7 q:R 走 α 列的概率 下值 2 上值 4 第 1 行:1+3q 第 2 行:6-4q 上包络(D 的最佳应对) 博弈值 = 22/7 ≈ 3.14
图 4.4-3 混合策略几何解析与上包络凸分析(对应习题 4.4-3 算例)。横轴为调节器选择动作 \(\alpha\) 的概率 \(q\),纵轴为期望损害。环境的两条纯应对策略对应两条相交直线;由于环境总是挑选使损害极大化的策略,因此系统的最坏环境响应表现为两条直线的逐段极大上包络(粗线)。该凸函数的最低谷底点即为博弈值 \(v^* = 22/7 \approx 3.14\),对应最优混合策略 \(q^* = 5/7\)。

图 4.4-3 清晰展现了混合策略的几何本质:调节器通过主动将自身的行为随机化,把下值从 2 提升至 3.14,把纯策略的上值从 4 压低至 3.14,使双方的博弈保证收敛于单一期望值。表 4.4-1 总结了纯策略与混合策略在担保水平上的差异。

表 4.4-1 无鞍点博弈中纯策略与混合策略的收益保证对比(据习题 4.4-3 算例)
博弈保证维度纯策略决策(确定性)混合策略决策(概率分布随机化)
环境扰动方 \(D\) 的担保收益(至少获得)2.000(纯策略下值 \(\underline{v}\))22/7 ≈ 3.143(博弈值 \(v^*\))
防御调节器 \(R\) 的担保上限(至多付出)4.000(纯策略上值 \(\bar{v}\))22/7 ≈ 3.143(博弈值 \(v^*\))
对策略公开的敏感性极度敏感(一旦泄露即遭定点攻击)完全不敏感(即使公布分布 \(q^*\),对手亦无法利用)
习题 4.4-2

(计算题)设某工业对抗博弈中的损害支付矩阵为 \(M = \begin{pmatrix} 4 & 1 \\ 2 & 6 \end{pmatrix}\),行代表环境扰动 \(D\)(1 与 2),列代表调节器动作 \(R\)(\(\alpha\) 与 \(\beta\))。

(i) 计算矩阵的纯策略下值 \(\underline{v}\) 与上值 \(\bar{v}\),判定是否存在纯策略鞍点;

(ii) 设调节器以概率 \(q\) 选取 \(\alpha\)、以 \(1-q\) 选取 \(\beta\),建立环境在各纯策略下的期望收益直线方程,并求最优混合策略 \(q^*\) 与博弈值 \(v^*\);

(iii) 求环境扰动方的最优对抗混合策略 \(p^*\)。

参考解答

(i) 计算行最小值:\(\min(4, 1) = 1\),\(\min(2, 6) = 2\)。故下值 \(\underline{v} = \max\{1, 2\} = 2\);
计算列最大值:\(\max(4, 2) = 4\),\(\max(1, 6) = 6\)。故上值 \(\bar{v} = \min\{4, 6\} = 4\);
由于 \(\underline{v} = 2 < 4 = \bar{v}\),下值严格小于上值,该矩阵不存在纯策略鞍点。
(ii) 调节器采用混合策略 \(q\)(选 \(\alpha\) 的概率)。环境若选第 1 行,期望损害为: \[ E_1(q) = 4q + 1(1 - q) = 1 + 3q \] 环境若选第 2 行,期望损害为: \[ E_2(q) = 2q + 6(1 - q) = 6 - 4q \] 根据极小极大定理,最优混合策略必处于两直线的交点处(令对手两种纯策略期望收益相等): \[ 1 + 3q = 6 - 4q \implies 7q = 5 \implies q^* = \frac{5}{7} \] 将 \(q^*\) 代入任意一方程,求得博弈值: \[ v^* = 1 + 3\left(\frac{5}{7}\right) = \frac{22}{7} \approx 3.143 \] (iii) 设环境以概率 \(p\) 选第 1 行、以 \(1-p\) 选第 2 行。调节器若选 \(\alpha\),期望收益为 \(4p + 2(1 - p) = 2 + 2p\);若选 \(\beta\),期望收益为 \(p + 6(1 - p) = 6 - 5p\)。令两式相等: \[ 2 + 2p = 6 - 5p \implies 7p = 4 \implies p^* = \frac{4}{7} \] 环境的最优混合策略为以 \(4/7\) 概率发动扰动 1、以 \(3/7\) 概率发动扰动 2,双方在此达到纳什均衡。

4.4.3 博弈作为带输入的机器与连续调节稳定性

在宏观结构上,阿什比将博弈论完全纳入了控制论“带输入的机器”的形式框架中(Ashby, 1956,S.12/22),如图 4.4-4 所示。

M 带输入的机器 (变换为诸玩家所知) Γ:参数(开关) 定结构:玩哪种游戏 V:随机步 轮盘、洗好的牌 T₁ 玩家 T₂ 玩家 表盘 G H:裁判 读取 按表盘 G 的读数向诸玩家支付 收信息(信道 I,连接部位由 Γ 规定) 确定地作用于 M 字母依冯·诺依曼用法(其 T 与本书不同)。据 Ashby, 1956, S.12/22 图 12/22/1 改绘。
图 4.4-4 与冯·诺依曼广义博弈理论等价的带输入复合机器图式(据 Ashby, 1956, S.12/22 图 12/22/1 重绘)。中央机器 \(M\) 接受结构参数 \(\Gamma\)(规定博弈规则)、随机扰动 \(V\)(轮盘抽样),并与多个智能体(玩家 \(T_1, T_2\))通过信息信道 \(I\) 进行双向闭环耦合;整机物理输出驱动表盘 \(G\),裁判机构 \(H\) 监测 \(G\) 并向各玩家施加收益或惩罚性支付反馈。

图 4.4-4 揭示了多智能体自适应系统的最高形式:不仅扰动源本身具有动态反应能力,且多个调节器在同一物理基质 \(M\) 内部为了各自的本质变量目标发生耦合竞争。这为我们研究连续物理时间尺度下的调节系统稳定性奠定了坚实的基础。

定义

连续调节动力系统与雅可比稳定性判据:

在连续时间物理系统中,状态演化由非线性常微分方程组所支配:

\[ \dot{x} = f(x, u, d), \qquad x \in \mathbb{R}^n,\ u \in \mathbb{R}^m,\ d \in \mathbb{R}^p \]

设在标称常值扰动 \(d^*\) 下,闭环反馈控制律 \(u = k(x)\) 使得系统具备平衡态 \(x^*\)(满足 \(f(x^*, k(x^*), d^*) = 0\))。定义状态偏差向量 \(\tilde{x} = x - x^*\)。在平衡态邻域内对非线性矢量场进行泰勒一阶展开,得到局部线性化动态方程:

\[ \dot{\tilde{x}} = J \tilde{x}, \qquad J = \left. \left[ \frac{\partial f}{\partial x} + \frac{\partial f}{\partial u}\frac{\partial k}{\partial x} \right] \right|_{(x^*, u^*, d^*)} \in \mathbb{R}^{n \times n} \]

其中 \(J\) 为闭环系统的雅可比矩阵(Jacobian matrix)。根据李雅普诺夫第一近似定理(间接法):

  1. 局部渐近稳定充要条件:矩阵 \(J\) 的所有复特征值 \(\lambda_i\) 的实部均严格为负: \[ \text{Re}(\lambda_i(J)) < 0 \qquad (\forall i = 1, \ldots, n) \] 此时平衡态在局部相空间内是渐近吸引子;
  2. 不稳定条件:若存在至少一个特征值满足 \(\text{Re}(\lambda_k(J)) > 0\),系统平衡态是局发散不稳定的;
  3. 临界边界:若所有特征值满足 \(\text{Re}(\lambda_i) \le 0\) 且虚轴上存在非重根特征值,系统处于临界中性稳定(产生持续等幅振荡)。

为了在无需显式求解特征多项式高次方程根的前提下判定特征值实部极性,控制论广泛运用由麦克斯韦与劳斯提出、赫尔维茨严密化的劳斯—赫尔维茨判据(Routh-Hurwitz Criterion)。设特征多项式为:

\[ P(\lambda) = \det(\lambda I - J) = a_n \lambda^n + a_{n-1} \lambda^{n-1} + \cdots + a_1 \lambda + a_0 \qquad (a_n > 0) \]

系统稳定的充要条件是赫尔维茨行列式矩阵的所有顺序主子式严格大于零:\(\Delta_1 > 0, \Delta_2 > 0, \ldots, \Delta_n > 0\)。针对二阶系统,赫尔维茨条件简化为所有系数为正:\(a_1 > 0, a_0 > 0\);针对三阶系统,简化为 \(a_2 > 0, a_1 > 0, a_0 > 0\) 且 \(a_2 a_1 > a_0\)。

对于大范围非线性调节问题,必须运用李雅普诺夫第二方法(直接法)。若能在相空间定义一个标量能量函数(李雅普诺夫函数)\(V(x): \mathbb{R}^n \to \mathbb{R}\),满足:

  1. \(V(0) = 0\) 且对任意 \(x \neq 0\) 均有 \(V(x) > 0\)(正定性);
  2. 沿系统真实轨迹的连续全导数(轨道导数)满足负定性:
    \[ \dot{V}(x) = (\nabla V(x))^T f(x, k(x), d) < 0 \qquad (\forall x \neq 0) \]

则系统在相空间内是渐近稳定的。物理上,李雅普诺夫函数是本质变量广义势能的推广,\(\dot{V} < 0\) 保证了系统吸收外来能量并自发回敛至安全区 \(\eta\)。

习题 4.4-3

考查某非线性连续反馈温控系统的动态方程:

\[ \dot{x}_1 = -2x_1 + x_2 + x_1 x_2, \qquad \dot{x}_2 = -x_1 - 3x_2 + u \]

其中 \(x_1, x_2\) 为系统状态偏差,\(u\) 为反馈控制律。设计线性状态反馈控制律 \(u = -k x_2\)(\(k\) 为待定常值增益)。

(i) 确定系统在零输入状态下的原点平衡态 \(x^* = (0, 0)^T\);

(ii) 计算闭环系统在原点平衡态处的雅可比矩阵 \(J\) 及其特征多项式;

(iii) 运用赫尔维茨判据,求使系统原点实现局部渐近稳定的反馈增益 \(k\) 的取值范围;

(iv) 当选取 \(k = 0\)(无额外反馈)时,构造二次型李雅普诺夫候选函数 \(V(x) = \frac{1}{2}x_1^2 + \frac{1}{2}x_2^2\),证明原点在某一邻域内是局部渐近稳定的,并指出非线性耦合项 \(x_1 x_2\) 对稳定吸引域半径的几何约束。

参考解答

(i) 当 \(x_1 = 0, x_2 = 0, u = 0\) 时,代入方程得 \(\dot{x}_1 = 0, \dot{x}_2 = 0\),因此原点 \(x^* = (0, 0)^T\) 是系统的动力学平衡态。
(ii) 闭环矢量场为 \(f_1 = -2x_1 + x_2 + x_1 x_2\),\(f_2 = -x_1 - (3 + k)x_2\)。对状态求偏导并令 \(x_1 = 0, x_2 = 0\): \[ J = \begin{pmatrix} \left.\frac{\partial f_1}{\partial x_1}\right|_0 & \left.\frac{\partial f_1}{\partial x_2}\right|_0 \\ \left.\frac{\partial f_2}{\partial x_1}\right|_0 & \left.\frac{\partial f_2}{\partial x_2}\right|_0 \end{pmatrix} = \begin{pmatrix} -2 + x_2 & 1 + x_1 \\ -1 & -(3 + k) \end{pmatrix}_{(0, 0)} = \begin{pmatrix} -2 & 1 \\ -1 & -(3 + k) \end{pmatrix} \] 闭环特征多项式为: \[ P(\lambda) = \det(\lambda I - J) = \det\begin{pmatrix} \lambda + 2 & -1 \\ 1 & \lambda + 3 + k \end{pmatrix} = (\lambda + 2)(\lambda + 3 + k) + 1 = \lambda^2 + (5 + k)\lambda + (2k + 7) \] (iii) 针对二阶特征多项式 \(\lambda^2 + a_1 \lambda + a_0\),劳斯—赫尔维茨稳定充要条件为 \(a_1 > 0\) 且 \(a_0 > 0\): \[ 5 + k > 0 \implies k > -5 \] \[ 2k + 7 > 0 \implies k > -\frac{7}{2} = -3.5 \] 两式取交集,系统局部渐近稳定的充要增益范围为 \(k > -3.5\)。
(iv) 取 \(k = 0\),候选函数 \(V(x) = \frac{1}{2}x_1^2 + \frac{1}{2}x_2^2 > 0\)(正定)。计算沿轨迹的时间导数: \[ \dot{V} = x_1 \dot{x}_1 + x_2 \dot{x}_2 = x_1(-2x_1 + x_2 + x_1 x_2) + x_2(-x_1 - 3x_2) \] 展开交叉项并合并: \[ \dot{V} = -2x_1^2 + x_1 x_2 + x_1^2 x_2 - x_1 x_2 - 3x_2^2 = -2x_1^2 - 3x_2^2 + x_1^2 x_2 = -x_1^2 (2 - x_2) - 3x_2^2 \] 考查相空间区域:在水平带状区域 \(\Omega = \{(x_1, x_2) \in \mathbb{R}^2 \mid x_2 < 2\}\) 内部,恒有 \(2 - x_2 > 0\)。因此在该区域内: \[ \dot{V} \le -\min(2 - x_2, 3)(x_1^2 + x_2^2) < 0 \qquad (\forall x \neq 0) \] 导数严格负定。取包含于 \(\Omega\) 内的李雅普诺夫等高线紧集(如圆域 \(B_r = \{x \mid x_1^2 + x_2^2 \le r^2\}\),其中 \(r < 2\)),该球域即构成渐近稳定吸引域的一个不变子集。非线性项 \(x_1^2 x_2\) 限制了全局稳定性,当 \(x_2 \ge 2\) 时系统可能发生失稳分岔。

4.4.4 会学习的机器棋手

当对抗性系统的博弈树规模极其庞大(如国际跳棋、国际象棋或围棋),以穷举极小极大回溯为基础的完全分析在计算复杂度上面临不可逾越的“组合爆炸”(combinatorial explosion)。此时,调节器必须引入学习机制。维纳在《上帝与魔像公司》(Wiener, 1964,第 II 部分)中给出了关于学习机(learning machine)的经典操作性定义:一个系统依据某种受控变换将输入消息转化为输出响应,若该系统能够依据一个关于自身运行表现优劣的反馈评价准则,持续修正内部变换参数以促成表现的单调改进,该系统即具备学习功能。

阿瑟·塞缪尔(Arthur Samuel)在 1959 年研制的西洋跳棋学习程序(Samuel, 1959),是控制论历史上第一个真正意义上的强化学习机器:

  1. 有限深度的启发式极小极大搜索:由于算力限制,程序无法递推至终局,只能展开向前搜索数步;
  2. 局面多项式线性评价函数:在搜索叶子节点处,程序运用加权线性打分函数评估局面优势: \[ f(s) = \sum_{i=1}^m w_i \phi_i(s) \] 其中 \(\phi_i(s)\) 为棋盘手工特征(棋子数量差、控盘机动性、兵线前进深度、双中心格占领等),\(w_i\) 为可调节权重矢量;
  3. 时序差分权重自适应更新:在对弈过程中,程序根据深层搜索预测与浅层估计之间的偏差,自动调整权重向量 \(w\)。多出现在获胜棋局中的特征权重被正向强化,反之被惩罚削减。

塞缪尔的跳棋机在自对弈训练数十小时后,稳健击败了塞缪尔本人,并战胜了当时的一流人类大师。维纳敏锐地观察到:学习型机器打破了传统机械决定论的刻板印象——机器的缔造者完全可以在博弈水平上被机器反超,因为机器吸收了数万局博弈历史中凝结的多样性信息(Wiener, 1964)。

案例

从塞缪尔跳棋机到 AlphaGo 与 AlphaZero:

半个世纪后,DeepMind 开发的 AlphaGo 与 AlphaZero 彻底印证了维纳与阿什比关于自对弈与自组织学习的控制论预言(Silver et al., 2016, 2017):

  1. AlphaGo (2016):首先吸收人类大师 3000 万步棋谱进行监督学习,随后通过自对弈强化学习更新策略网络,并借助蒙特卡洛树搜索(MCTS)完成极小极大博弈评估,以 4:1 击败人类世界冠军李世石;
  2. AlphaZero (2017):彻底摆脱对任何人类先验知识的依赖,仅输入纯粹的围棋规则(定义结局表的代数结构 \(\Gamma\))。系统从完全随机初始化的深层残差神经网络出发,纯粹依靠自我博弈强化学习(Self-play RL),在仅仅 40 小时内即超越了一切人类棋谱训练的先验系统。

这表明:当博弈规则被形式化定义为带输入的确定性机器时,通过高吞吐量的双层学习闭环,调节器能够自主自发地合成出逼近理论极小极大值的近乎完美的内部决策模型。

4.4.5 机器的算术组合与博弈的边界

在探讨了学习机器的演进之后,维纳在《上帝与魔像公司》(第 IV 部分)与《控制论》第二版(Wiener, 1961,第 9 章)中,进一步建立了一门极其抽象的“机器算术学”——如何对机器进行代数分解与多项式组合。

维纳证明:如果将线性与非线性换能器的输入视作随机时间序列,并利用白噪声(如热噪声或电子管散粒效应 Shot Noise)作为探针信号驱动系统,则任意非线性确定性黑箱均可展开为正交泛函级数。这一理论即现代非线性系统辨识中著名的维纳—沃尔泰拉级数(Wiener-Volterra Series):

\[ y(t) = k_0 + \int_0^\infty k_1(\tau) x(t - \tau) d\tau + \int_0^\infty \int_0^\infty k_2(\tau_1, \tau_2) x(t - \tau_1) x(t - \tau_2) d\tau_1 d\tau_2 + \cdots \]

通过构造输入历史的拉盖尔正交多项式(Laguerre polynomials)与埃尔米特多项式(Hermite polynomials),任意物理黑箱的输入—输出动态特性均可被解析投影为一组唯一的正交谱系数。在博弈控制论中,这意味着:若对手是一个遵守固定规则运作的确定性机器,调节器通过对其输入—输出历史相关联的时序测量,在原理上能够完全“辨识并复制”对手的内部动力学映射。

然而,维纳在此同样为博弈论划定了极其严格的认识论边界。维纳告诫学术界,博弈论的数学有效性严格依赖于一个前提:博弈规则、行动集合与支付价值标准必须在物理上客观可辨且保持不变。维纳以《爱丽丝漫游奇境》中红皇后的荒诞槌球赛为例(刺猬充当活动球、活火烈鸟充当球槌、士兵随时变换球门位置、红皇后任意且朝令夕改):若真实物理与社会系统的博弈规则自身处于无规律的非时齐突变之中,任何极小极大分析与优化学习都将丧失数学基础(Wiener, 1964,第 II 部分)。

习题 4.4-4

(信息时序与博弈价值分析)考查阿什比结局表数字化后的对称二阶博弈:环境扰动行集合 \(D = \{d_1, d_2\}\),调节器列集合 \(R = \{r_1, r_2\}\)。当系统结局落在容许集 \(\eta\) 内时损害记为 0,落在 \(\eta\) 外时记为 1。损害矩阵为反向匹配矩阵:

\[ M = \begin{pmatrix} 0 & 1 \\ 1 & 0 \end{pmatrix} \]

(i) 场景 A(阿什比前馈时序):调节器 \(R\) 具备完备的前馈感知通道,能够在出招前实时获悉 \(D\) 的确切行选择。计算调节器所能达到的最小损害支付;

(ii) 场景 B(冯·诺依曼对称时序):调节器由于通信遮断无法观测 \(D\),双方在完全独立、互不相通的状态下同时出招。计算博弈在混合策略下的极小极大值 \(v^*\);

(iii) 比较场景 A 与场景 B 的损害差额,从信息论与控制论的统一视角论述“情报为何就是调节资源”。

参考解答

(i) 场景 A(阿什比前馈时序):调节器先观测后动作。当 \(D = d_1\) 时,调节器观测到行 1,主动选择第 1 列 \(r_1\),结局损害为 \(M_{11} = 0\);当 \(D = d_2\) 时,调节器观测到行 2,主动选择第 2 列 \(r_2\),结局损害为 \(M_{22} = 0\)。因此在完全前馈情报支持下,调节器实现完美控制,系统损害支付恒定为: \[ \text{Loss}_A \equiv 0 \] (ii) 场景 B(冯·诺依曼同时落子):矩阵无纯策略鞍点。设调节器以概率 \(q\) 选 \(r_1\)、以 \(1-q\) 选 \(r_2\)。环境选 \(d_1\) 期望为 \(0 \cdot q + 1 \cdot (1 - q) = 1 - q\);选 \(d_2\) 期望为 \(1 \cdot q + 0 \cdot (1 - q) = q\)。令两者相等: \[ 1 - q = q \implies q^* = \frac{1}{2} \] 代入得到博弈值: \[ v^* = \frac{1}{2} \] 因此在无先验情报时,系统的平均期望损害上升至 \(0.5\)。
(iii) 差额机制论述:从场景 A 到场景 B,系统的控制绩效恶化了 \(\Delta \text{Loss} = 0.5 - 0 = 0.5\)。产生这一退化的唯一根源,在于调节器失去了感知信道所传递的关于环境状态的 1 比特信息(\(\log_2 2 = 1\ \text{bit}\))。在场景 A 中,调节器作为信道吸收并消解了环境的多样性;在场景 B 中,通信被阻断,调节器退化为开环盲目系统,只能依靠混合策略进行被动风险均摊。这在数学上完全证实了控制论的核心命题:信息是控制的物理燃料,信道通信容量的缺失将直接转化为不可避免的系统调节熵增。

博弈论为调节理论注入了对抗性交互与战略自适应的强大工具。然而,当被调系统进一步扩展至包含数十亿个微观神经元的大脑、包含数百万种生物的生态圈或全球规模的宏观经济网络时,控制论立即面临着物理规模的极端挑战。在超大高维系统中,状态空间的组合爆炸如何被有效遏制?调节器的设计如何借助分层与松散耦合实现降维?这些问题将在 4.5 节“极大系统的调节”中得到系统解答。

关键术语

两人零和博弈 (two-person zero-sum game)
由进攻方与防御方构成的严格竞争决策模型,一方的收益严格等于另一方的损失;阿什比结局表可精确转化为该博弈的损害支付矩阵。
极小极大准则 (minimax criterion)
防御调节器在最恶劣对抗环境下最小化自身最大可能受损的稳健决策准则;冯·诺依曼证明其在混合策略空间中恒存在确定博弈值。
鞍点 (saddle point)
矩阵博弈中既是所在行最小值又是所在列最大值的稳定平衡节点,纯策略纳什均衡解,双方无需保密决策方案。
混合策略 (mixed strategy)
在离散动作集合上赋予概率分布的随机化决策模式;在无纯策略鞍点的对抗中能够将双方的期望担保收拢于单一博弈值。
雅可比矩阵 (Jacobian matrix)
连续多变量微分方程组在平衡态附近的一阶一阶偏导数矩阵,其特征值实部完全决定系统局部线性化动力学的渐近稳定性。
劳斯—赫尔维茨判据 (Routh-Hurwitz criterion)
依据特征多项式代数系数构筑的行列式主子式判据,无需解析求根即可判定线性连续微分系统是否渐近稳定。
李雅普诺夫直接法 (Lyapunov's direct method)
通过构造相空间正定广义能量函数 \(V(x)\) 并检验其时间全导数 \(\dot{V}(x)\) 的负定性,直接判定大范围非线性调节系统稳定性的拓扑分析方法。
时序差分学习 (temporal difference learning)
基于后继状态预测与当前估计之差进行渐进自适应调整的无模型强化学习算法,塞缪尔跳棋机与 AlphaZero 的底层机制。
维纳泛函展开 (Wiener-Volterra functional expansion)
利用正交高斯白噪声输入将任意连续稳定非线性黑箱系统解析展开为正交拉盖尔—埃尔米特多项式级数的系统辨识理论。

参考文献与延伸阅读

  1. Ashby WR. 1956. An Introduction to Cybernetics. Chapman & Hall / John Wiley & Sons. [Chapter 12: Section 12/22 Games and Strategies]
  2. von Neumann J, Morgenstern O. 1944. Theory of Games and Economic Behavior. Princeton University Press.
  3. von Neumann J. 1928. Zur Theorie der Gesellschaftsspiele. Mathematische Annalen 100(1):295–320.
  4. Wiener N. 1964. God and Golem, Inc.: A Comment on Certain Points Where Cybernetics Impinges on Religion. MIT Press.
  5. Wiener N. 1961. Cybernetics: or Control and Communication in the Animal and the Machine. 2nd ed. MIT Press / John Wiley & Sons.
  6. Samuel AL. 1959. Some studies in machine learning using the game of checkers. IBM Journal of Research and Development 3(3):210–229.
  7. Silver D et al. 2016. Mastering the game of Go with deep neural networks and tree search. Nature 529(7587):484–489.
  8. Silver D et al. 2017. Mastering the game of Go without human knowledge. Nature 550(7676):354–359.
  9. Khalil HK. 2002. Nonlinear Systems. 3rd ed. Prentice Hall. [Lyapunov Stability]
  10. Shannon CE. 1949. Communication theory of secrecy systems. Bell System Technical Journal 28(4):656–715.