伴随算子的定义与存在唯一性
在 3.F 节中,我们用对偶空间 (dual space) 与对偶映射 (dual map) \(T'\) 研究线性映射。在内积空间里,里斯表示定理 (Riesz Representation Theorem, 6.42) 告诉我们:每个线性泛函都可以用"与某个固定向量作内积"来实现。于是对偶空间的工作可以完全内化为内积的语言——由此得到的工具就是伴随。与对偶映射相比,伴随不依赖基的选取,计算也更直接,这正是本书在内积空间的语境中偏爱伴随、而少谈转置的原因。
约定提醒. 全节设 \(V,W\) 是数域 \(\mathbf{F}\)(\(\mathbf{F}=\mathbf{R}\) 或 \(\mathbf{C}\))上的有限维内积空间,内积 \(\langle\cdot,\cdot\rangle\) 对第一个变元线性、对第二个变元共轭线性(见 6.2 的定义,即 \(\langle \lambda u, v\rangle=\lambda\langle u,v\rangle\) 而 \(\langle u,\lambda v\rangle=\bar\lambda\langle u,v\rangle\))。在这套约定下,固定 \(w\in W\) 时,映射 \(v\mapsto\langle Tv,w\rangle\) 关于 \(v\) 是线性泛函——这正是下面调用里斯表示定理所需要的。若读者所用教材采用"第二变元线性"的相反约定,则 \(v\mapsto\langle Tv,w\rangle\) 对 \(v\) 共轭线性,此时应改用对 \(v\) 线性的 \(v\mapsto\langle w,Tv\rangle\) 来触发里斯定理;两种约定最终导出同一个伴随算子,只是证明细节互为镜像。
定义 7.1(伴随, adjoint). 设 \(T\in\mathcal{L}(V,W)\)。\(T\) 的伴随是满足 \[ \langle Tv,w\rangle=\langle v,T^{*}w\rangle \] (对一切 \(v\in V\)、\(w\in W\))的函数 \(T^{*}\colon W\to V\)。
存在性与唯一性的完整论证. 设 \(T\in\mathcal{L}(V,W)\),固定 \(w\in W\)。考虑 \(V\) 上的映射 \[ v\mapsto\langle Tv,w\rangle , \] 由于 \(T\) 线性且内积对第一变元线性,它是 \(V\) 上的线性泛函。由里斯表示定理 (6.42),存在唯一的向量 \(u\in V\) 使得 \[ \langle Tv,w\rangle=\langle v,u\rangle\quad\text{对一切 }v\in V . \] (唯一性来自内积的确定性:若 \(u,u'\) 都满足,则对一切 \(v\) 有 \(\langle v,u-u'\rangle=0\),取 \(v=u-u'\) 即得 \(u=u'\)。)我们把这一个 \(u\) 记作 \(T^{*}w\)。让 \(w\) 取遍 \(W\),便得到函数 \(T^{*}\colon W\to V\),它按定义满足定义 7.1 中的等式。注意左边的内积在 \(W\) 中计算,右边的内积在 \(V\) 中计算,我们沿用同一记号 \(\langle\cdot,\cdot\rangle\) 而不加区分。此外还要确认:满足定义等式的函数至多一个——若 \(S\colon W\to V\) 也满足 \(\langle Tv,w\rangle=\langle v,Sw\rangle\),则对一切 \(v\in V\) 有 \(\langle v,T^{*}w-Sw\rangle=0\),取 \(v=T^{*}w-Sw\) 得 \(T^{*}w=Sw\)。
下图概括了这种"往返配对"的结构:先让 \(T\) 作用再与 \(w\) 配对,等于先把 \(w\) 送回 \(V\) 一侧(即作用 \(T^*\))再与 \(v\) 配对。
到目前为止,\(T^{*}\) 只是一个函数。下一个结果表明它其实是线性映射。
定理 7.4(伴随是线性映射). 若 \(T\in\mathcal{L}(V,W)\),则 \(T^{*}\in\mathcal{L}(W,V)\)。
证明. 设 \(T\in\mathcal{L}(V,W)\)。若 \(v\in V\) 且 \(w_1,w_2\in W\),则由内积对第二变元的可加性, \[ \langle Tv,w_1+w_2\rangle=\langle Tv,w_1\rangle+\langle Tv,w_2\rangle =\langle v,T^{*}w_1\rangle+\langle v,T^{*}w_2\rangle =\langle v,\,T^{*}w_1+T^{*}w_2\rangle . \] 上式表明 \(T^{*}(w_1+w_2)=T^{*}w_1+T^{*}w_2\)。若 \(v\in V\)、\(\lambda\in\mathbf{F}\)、\(w\in W\),则由第二变元的共轭齐性, \[ \langle Tv,\lambda w\rangle=\bar\lambda\langle Tv,w\rangle =\bar\lambda\langle v,T^{*}w\rangle =\langle v,\,\lambda T^{*}w\rangle , \] 上式表明 \(T^{*}(\lambda w)=\lambda T^{*}w\)。故 \(T^{*}\) 是线性映射。证毕。\(\blacksquare\)
请留意第二条演算中两个共轭如何相互抵消:第二变元的 \(\bar\lambda\) 与"把 \(\bar\lambda\) 提入第二槽"所需的共轭恰好相消,使 \(T^{*}\) 保持齐次性。这一微妙之处正是"第一变元线性"约定与伴随定义完美配合的体现。
伴随的计算与矩阵表示
计算 \(T^{*}\) 的通用技巧是:从表达式 \(\langle Tv,w\rangle\) 出发,利用内积的性质把它整理成"第一个槽只剩 \(v\)"的形状 \(\langle v,\text{某向量}\rangle\),则第二个槽中的向量就是 \(T^{*}w\)。
例 7.2(\(\mathbf{R}^3\to\mathbf{R}^2\) 的伴随). 定义 \(T\colon\mathbf{R}^3\to\mathbf{R}^2\) 为 \[ T(x_1,x_2,x_3)=(x_2+3x_3,\;2x_1). \] 为求 \(T^{*}\),设 \((x_1,x_2,x_3)\in\mathbf{R}^3\)、\((y_1,y_2)\in\mathbf{R}^2\)。在实内积下, \[ \langle T(x_1,x_2,x_3),(y_1,y_2)\rangle =\langle (x_2+3x_3,\,2x_1),(y_1,y_2)\rangle =x_2y_1+3x_3y_1+2x_1y_2 =\langle (x_1,x_2,x_3),\,(2y_2,\,y_1,\,3y_1)\rangle . \] 由伴随的定义即得 \[ T^{*}(y_1,y_2)=(2y_2,\;y_1,\;3y_1). \] 注意 \(T\) 的矩阵是 \(\begin{pmatrix}0&1&3\\ 2&0&0\end{pmatrix}\),而 \(T^{*}\) 的矩阵恰是它的转置 \(\begin{pmatrix}0&2\\ 1&0\\ 3&0\end{pmatrix}\)——这不是巧合,见本节末的定理 7.9。
例 7.3(值域维数至多为一的映射). 固定 \(u\in V\)、\(x\in W\),定义 \(T\in\mathcal{L}(V,W)\) 为 \(Tv=\langle v,u\rangle x\)。设 \(v\in V\)、\(w\in W\),则 \[ \langle Tv,w\rangle=\langle \langle v,u\rangle x,\,w\rangle =\langle v,u\rangle\,\langle x,w\rangle =\langle v,\,\langle w,x\rangle u\rangle , \] 其中最后一步用到第二变元的共轭线性:\(\langle v,\langle w,x\rangle u\rangle=\overline{\langle w,x\rangle}\langle v,u\rangle=\langle x,w\rangle\langle v,u\rangle\)。于是 \[ T^{*}w=\langle w,x\rangle\,u . \] 形如 \(v\mapsto\langle v,u\rangle x\) 的"秩一"映射的伴随仍是秩一映射,只是 \(u\) 与 \(x\) 的角色对调。
例(算子的伴随:大纲补例). 在 \(\mathbf{R}^3\) 上定义 \[ T(x,y,z)=(2x+y+5z,\;x+y,\;3x+4y+2z), \] 求 \(T^{*}\)。设 \(a,b,c\in\mathbf{R}\),直接展开: \[ \begin{aligned} \langle T(x,y,z),(a,b,c)\rangle &=(2x+y+5z)a+(x+y)b+(3x+4y+2z)c\\ &=x(2a+b+3c)+y(a+b+4c)+z(5a+2c)\\ &=\langle (x,y,z),\,(2a+b+3c,\;a+b+4c,\;5a+2c)\rangle . \end{aligned} \] 故 \(T^{*}(a,b,c)=(2a+b+3c,\;a+b+4c,\;5a+2c)\)。若在 \(\mathbf{C}^3\) 上考虑同样的公式,则须对系数取共轭,见下文。
矩阵观点把这些计算系统化。
定义 7.7(共轭转置, conjugate transpose). \(m\times n\) 矩阵 \(A\) 的共轭转置是先互换行列、再对每个元素取共轭得到的 \(n\times m\) 矩阵 \(A^{*}\),即 \((A^{*})_{j,k}=\overline{A_{k,j}}\)。当 \(A\) 是实矩阵时,\(A^{*}=A^{t}\)(转置)。
例 7.8. \(2\times 3\) 矩阵 \(\begin{pmatrix}2&3+4i&7\\ 6&5&8i\end{pmatrix}\) 的共轭转置是 \(3\times 2\) 矩阵 \[ \begin{pmatrix}2&6\\ 3-4i&5\\ 7&-8i\end{pmatrix}. \]
定理 7.9(\(T^{*}\) 的矩阵等于 \(T\) 的矩阵的共轭转置). 设 \(T\in\mathcal{L}(V,W)\),\(e_1,\dots,e_n\) 是 \(V\) 的标准正交基 (orthonormal basis),\(f_1,\dots,f_m\) 是 \(W\) 的标准正交基,则 \[ \mathcal{M}(T^{*},(f_1,\dots,f_m),(e_1,\dots,e_n))=\bigl(\mathcal{M}(T,(e_1,\dots,e_n),(f_1,\dots,f_m))\bigr)^{*}, \] 简记为 \(\mathcal{M}(T^{*})=\mathcal{M}(T)^{*}\)。
证明. 由 6.30(a),标准正交基下的展开系数就是内积,故 \(\mathcal{M}(T)\) 的第 \(k\) 列由 \(Te_k=\sum_j\langle Te_k,f_j\rangle f_j\) 给出,即 \(\mathcal{M}(T)\) 的 \((j,k)\) 元为 \(\langle Te_k,f_j\rangle\)。同理,\(\mathcal{M}(T^{*})\) 的 \((j,k)\) 元为 \(\langle T^{*}f_k,e_j\rangle\)。由伴随定义与共轭对称性, \[ \langle T^{*}f_k,e_j\rangle=\overline{\langle e_j,T^{*}f_k\rangle}=\overline{\langle Te_j,f_k\rangle}, \] 而 \(\overline{\langle Te_j,f_k\rangle}\) 正是 \(\mathcal{M}(T)\) 的 \((k,j)\) 元的共轭。于是 \(\mathcal{M}(T^{*})\) 的 \((j,k)\) 元等于 \(\mathcal{M}(T)\) 的 \((k,j)\) 元的共轭,即 \(\mathcal{M}(T^{*})=\mathcal{M}(T)^{*}\)。证毕。\(\blacksquare\)
警示. 上述结论依赖基的标准正交性:在一般的基下,\(T^{*}\) 的矩阵未必等于 \(T\) 的矩阵的共轭转置(原书练习 7A.14 给出了一个非正交基下矩阵等于自身共轭转置、算子却非自伴的例子)。这也解释了例 7.2 与上面补例中"伴随 = 转置(再取共轭)"的现象,因为所用的是标准正交基。伴随本身是基无关的对象,而共轭转置只是它在标准正交基下的坐标表现——这是本书偏爱伴随、少谈转置的原因。
伴随的代数性质
定理 7.5(伴随的性质). 设 \(T\in\mathcal{L}(V,W)\)。则
(a) 对所有 \(S\in\mathcal{L}(V,W)\),有 \((S+T)^{*}=S^{*}+T^{*}\);
(b) 对所有 \(\lambda\in\mathbf{F}\),有 \((\lambda T)^{*}=\bar\lambda\,T^{*}\);
(c) \((T^{*})^{*}=T\);
(d) 对所有 \(S\in\mathcal{L}(W,U)\)(\(U\) 为 \(\mathbf{F}\) 上有限维内积空间),有 \((ST)^{*}=T^{*}S^{*}\);
(e) \(I^{*}=I\)(\(I\) 为 \(V\) 上恒等算子);
(f) 若 \(T\) 可逆,则 \(T^{*}\) 可逆且 \((T^{*})^{-1}=(T^{-1})^{*}\)。
证明. 设 \(v\in V\)、\(w\in W\)。
(a) 若 \(S\in\mathcal{L}(V,W)\),则 \[ \langle (S+T)v,w\rangle=\langle Sv,w\rangle+\langle Tv,w\rangle =\langle v,S^{*}w\rangle+\langle v,T^{*}w\rangle =\langle v,\,S^{*}w+T^{*}w\rangle, \] 故 \((S+T)^{*}w=S^{*}w+T^{*}w\)。
(b) 若 \(\lambda\in\mathbf{F}\),则 \[ \langle (\lambda T)v,w\rangle=\lambda\langle Tv,w\rangle =\lambda\langle v,T^{*}w\rangle =\langle v,\,\bar\lambda\,T^{*}w\rangle, \] (最后一个等号再次用到第二变元的共轭线性)故 \((\lambda T)^{*}=\bar\lambda T^{*}\)。
(c) 由共轭对称性与伴随定义, \[ \langle T^{*}w,v\rangle=\overline{\langle v,T^{*}w\rangle}=\overline{\langle Tv,w\rangle}=\langle w,Tv\rangle . \] 而把伴随定义用于 \(T^{*}\in\mathcal{L}(W,V)\),得 \(\langle T^{*}w,v\rangle=\langle w,(T^{*})^{*}v\rangle\)。两式对一切 \(w,v\) 相等,故 \((T^{*})^{*}v=Tv\),即 \((T^{*})^{*}=T\)。
(d) 设 \(S\in\mathcal{L}(W,U)\)、\(u\in U\)。则 \[ \langle (ST)v,u\rangle=\langle S(Tv),u\rangle=\langle Tv,S^{*}u\rangle=\langle v,\,T^{*}(S^{*}u)\rangle=\langle v,\,(T^{*}S^{*})u\rangle, \] 故 \((ST)^{*}=T^{*}S^{*}\)。注意乘积顺序反转,这与转置的规律一致。
(e) 对任意 \(u,v\in V\),\(\langle Iu,v\rangle=\langle u,v\rangle\),故 \(I^{*}v=v\),即 \(I^{*}=I\)。
(f) 设 \(T\) 可逆。对 \(T^{-1}T=I\) 两边取伴随并用 (d)、(e),得 \(T^{*}(T^{-1})^{*}=I\);同理 \(TT^{-1}=I\) 给出 \((T^{-1})^{*}T^{*}=I\)。故 \(T^{*}\) 可逆且 \((T^{*})^{-1}=(T^{-1})^{*}\)。证毕。\(\blacksquare\)
当 \(\mathbf{F}=\mathbf{R}\) 时,由 (a)(b) 可知 \(T\mapsto T^{*}\) 是从 \(\mathcal{L}(V,W)\) 到 \(\mathcal{L}(W,V)\) 的线性映射;但当 \(\mathbf{F}=\mathbf{C}\) 时,由于 (b) 中出现共轭,\(T\mapsto T^{*}\) 不是线性的(它是共轭线性的)。
零空间与值域的对偶关系
下面的结果是本节的技术核心之一:它把 \(T\) 与 \(T^{*}\) 的零空间 (null space) 与值域 (range) 用正交补 (orthogonal complement) 联系起来,与 3.F 中关于对偶映射的公式 \(\operatorname{null}T'=(\operatorname{range}T)^0\)、\(\operatorname{range}T'=(\operatorname{null}T)^0\) 完全平行。
定理 7.6(\(T^{*}\) 的零空间与值域). 设 \(T\in\mathcal{L}(V,W)\)。则
(a) \(\operatorname{null}T^{*}=(\operatorname{range}T)^{\perp}\);
(b) \(\operatorname{range}T^{*}=(\operatorname{null}T)^{\perp}\);
(c) \(\operatorname{null}T=(\operatorname{range}T^{*})^{\perp}\);
(d) \(\operatorname{range}T=(\operatorname{null}T^{*})^{\perp}\)。
证明. 先证 (a)。设 \(w\in W\),则 \[ \begin{aligned} w\in\operatorname{null}T^{*} &\iff T^{*}w=0\\ &\iff \langle v,T^{*}w\rangle=0 \text{ 对一切 } v\in V\\ &\iff \langle Tv,w\rangle=0 \text{ 对一切 } v\in V\\ &\iff w\in(\operatorname{range}T)^{\perp}, \end{aligned} \] 其中第二个等价用了内积的确定性(取 \(v=T^{*}w\)),第三个等价恰是伴随的定义。故 \(\operatorname{null}T^{*}=(\operatorname{range}T)^{\perp}\)。
对 (a) 两边取正交补,并利用 6.52(子空间 \(U\) 满足 \(U=(U^{\perp})^{\perp}\);注意 \(\operatorname{range}T\) 是子空间),得 (d):\(\operatorname{range}T=(\operatorname{null}T^{*})^{\perp}\)。在 (a) 中把 \(T\) 换成 \(T^{*}\)(并用 7.5(c) 的 \((T^{*})^{*}=T\)),得 (c):\(\operatorname{null}T=(\operatorname{range}T^{*})^{\perp}\)。最后在 (d) 中把 \(T\) 换成 \(T^{*}\),得 (b):\(\operatorname{range}T^{*}=(\operatorname{null}T)^{\perp}\)。证毕。\(\blacksquare\)
维数评注. 由 (b) 与 6.51、秩—零化度定理立得 \[ \dim\operatorname{range}T^{*}=\dim(\operatorname{null}T)^{\perp}=\dim V-\dim\operatorname{null}T=\dim\operatorname{range}T . \] 即 \(T\) 与 \(T^{*}\) 的秩相等(原书将其安排为练习 7A.7(b);取伴随的矩阵并配合 7.9,它还给出"行秩等于列秩"的一个新证明,见练习 7A.8 的思路)。
与 3.F 的呼应. 6.B 节末的里斯表示定理(6.58)把 \(v\mapsto\langle\,\cdot\,,v\rangle\) 建立为 \(V\) 与对偶空间 \(V'\) 之间的一一对应(\(\mathbf{F}=\mathbf{C}\) 时为共轭线性)。在这一对应下,正交补 \(U^{\perp}\) 恰对应零化子 (annihilator) \(U^{0}\),伴随 \(T^{*}\) 恰对应 3.F 中的对偶映射 \(T'\)。于是 7.6 的四个公式正是 3.128/3.130 中关于 \(\operatorname{null}T'\) 与 \(\operatorname{range}T'\) 公式的"内积翻版",而 7.9 对应 3.132。由于正交补与伴随比零化子与对偶映射更好用,在内积空间的语境里我们今后只与 \(T^{*}\) 打交道。
自伴算子
从现在起我们把注意力从映射 \(V\to W\) 收回到算子 \(T\in\mathcal{L}(V)\)(即 \(V\to V\) 的线性映射)。
定义 7.10(自伴, self-adjoint;又称 Hermitian/厄米). 算子 \(T\in\mathcal{L}(V)\) 称为自伴的,若 \(T=T^{*}\)。
由定义 7.1 立即得到一个有用的判据:\(T\) 自伴当且仅当 \[ \langle Tv,w\rangle=\langle v,Tw\rangle\quad\text{对一切 }v,w\in V \] (必要性:\(\langle v,Tw\rangle=\langle v,T^{*}w\rangle=\langle Tv,w\rangle\);充分性:固定 \(w\),对一切 \(v\) 有 \(\langle v,Tw\rangle=\langle v,T^{*}w\rangle\),故 \(Tw=T^{*}w\))。又由定理 7.9,在标准正交基下,\(T\) 自伴当且仅当其矩阵等于自身的共轭转置;在实空间上,这就是对称矩阵。
例 7.11(由矩阵判断自伴性). 设 \(c\in\mathbf{F}\),\(T\) 是 \(\mathbf{F}^2\) 上矩阵(标准基下)为 \[ \mathcal{M}(T)=\begin{pmatrix}2&3\\ c&7\end{pmatrix} \] 的算子。由 7.9, \[ \mathcal{M}(T^{*})=\begin{pmatrix}2&\bar c\\ 3&7\end{pmatrix}. \] 两者相等当且仅当 \(c=3\)(此时 \(c=\bar c=3\) 同时满足两个位置的要求)。故 \(T\) 自伴当且仅当 \(c=3\)。当 \(c=3\) 时这是一个实对称矩阵;一般地,实对称矩阵 = 实内积空间标准正交基下的自伴算子。
例(反例:\(\mathbf{R}^2\) 上旋转 \(90^\circ\)). 设 \(T(x,y)=(-y,x)\) 是逆时针旋转 \(90^\circ\) 的算子,其矩阵 \(\begin{pmatrix}0&-1\\ 1&0\end{pmatrix}\) 不等于其转置,故 \(T\) 不自伴(事实上 \(T^{*}\) 是顺时针旋转 \(90^\circ\),即 \(T^{*}=-T\))。更有趣的是,对每个 \(v=(x,y)\) 都有 \(\langle Tv,v\rangle=(-y)x+xy=0\):在实空间上,非零算子也可能对一切 \(v\) 满足 \(\langle Tv,v\rangle=0\);定理 7.13 将说明复空间上这不可能。
一个好用的类比:伴随之于 \(\mathcal{L}(V)\),犹如复共轭之于 \(\mathbf{C}\)。复数 \(z\) 是实数当且仅当 \(z=\bar z\);类似地,自伴算子(\(T=T^{*}\))是"实数"的算子版本。下面的两个定理将印证这一类比。
定理 7.12(自伴算子的特征值都是实数). 自伴算子的每个特征值 (eigenvalue) 都是实数。
证明. 设 \(T\) 是 \(V\) 上自伴算子,\(\lambda\) 是 \(T\) 的特征值,取非零向量 \(v\in V\) 使 \(Tv=\lambda v\)。则 \[ \lambda\|v\|^{2}=\langle \lambda v,v\rangle=\langle Tv,v\rangle=\langle v,T^{*}v\rangle=\langle v,Tv\rangle=\langle v,\lambda v\rangle=\bar\lambda\,\|v\|^{2}, \] 其中 \(\langle \lambda v,v\rangle=\lambda\langle v,v\rangle\) 用第一变元的齐性,\(\langle v,\lambda v\rangle=\bar\lambda\langle v,v\rangle\) 用第二变元的共轭齐性,而中间的 \(\langle Tv,v\rangle=\langle v,T^{*}v\rangle\) 正是伴随的定义。因 \(v\ne 0\),\(\|v\|^{2}\ne 0\),故 \(\lambda=\bar\lambda\),即 \(\lambda\in\mathbf{R}\)。证毕。\(\blacksquare\)
若 \(\mathbf{F}=\mathbf{R}\),则特征值按定义就是实数,定理 7.12 是平凡的;它有意思的情形是 \(\mathbf{F}=\mathbf{C}\)。下面的引理是复空间上更有力的工具。
定理 7.13(复空间:\(\langle Tv,v\rangle=0\) 对一切 \(v\) 蕴含 \(T=0\)). 设 \(V\) 是复内积空间,\(T\in\mathcal{L}(V)\)。则 \[ \langle Tv,v\rangle=0 \text{ 对一切 } v\in V \iff T=0 . \]
证明. (\(\Leftarrow\)) 显然。(\(\Rightarrow\)) 关键是如下的极化恒等式 (polarization identity):对任意 \(u,w\in V\), \[ \langle Tu,w\rangle=\frac{\langle T(u+w),u+w\rangle-\langle T(u-w),u-w\rangle}{4}-\frac{\langle T(u+iw),u+iw\rangle-\langle T(u-iw),u-iw\rangle}{4i}, \] 它可通过把右边按内积的线性与共轭线性直接展开来验证:展开后 \(\langle Tu,u\rangle\)、\(\langle Tw,w\rangle\) 诸项相消,只剩 \(\langle Tu,w\rangle\)。注意右边每一项都形如 \(\langle Tv,v\rangle\)。若 \(\langle Tv,v\rangle=0\) 对一切 \(v\) 成立,则上式给出 \(\langle Tu,w\rangle=0\) 对一切 \(u,w\in V\) 成立;取 \(w=Tu\),得 \(\|Tu\|^{2}=0\),故 \(Tu=0\) 对一切 \(u\) 成立,即 \(T=0\)。证毕。\(\blacksquare\)
定理 7.13 在实内积空间上不成立:上面旋转 \(90^\circ\) 的反例正说明这一点(\(\langle Tv,v\rangle\equiv 0\) 而 \(T\ne 0\))。它依赖于复空间中"旋转 \(i\) 倍"的相位分离手段。
定理 7.14(复空间:\(\langle Tv,v\rangle\) 恒为实数当且仅当 \(T\) 自伴). 设 \(V\) 是复内积空间,\(T\in\mathcal{L}(V)\)。则 \[ T \text{ 自伴}\iff \langle Tv,v\rangle\in\mathbf{R} \text{ 对一切 } v\in V . \]
证明. 先建立恒等式(原书 7.15):对一切 \(v\in V\), \[ \langle T^{*}v,v\rangle=\langle v,Tv\rangle=\overline{\langle Tv,v\rangle}, \] 事实上,\(\langle T^{*}v,v\rangle=\overline{\langle v,T^{*}v\rangle}=\overline{\langle Tv,v\rangle}\)(第一步用共轭对称,第二步用伴随定义),而 \(\langle v,Tv\rangle=\overline{\langle Tv,v\rangle}\)。于是有下列一串等价: \[ \begin{aligned} T \text{ 自伴} &\iff T-T^{*}=0\\ &\iff \langle (T-T^{*})v,v\rangle=0 \text{ 对一切 } v\in V\\ &\iff \langle Tv,v\rangle-\overline{\langle Tv,v\rangle}=0 \text{ 对一切 } v\in V\\ &\iff \langle Tv,v\rangle\in\mathbf{R} \text{ 对一切 } v\in V, \end{aligned} \] 其中第二个等价把定理 7.13 应用于算子 \(T-T^{*}\),第三个等价用了恒等式 7.15 与 \(\langle (T-T^{*})v,v\rangle=\langle Tv,v\rangle-\langle T^{*}v,v\rangle\)。证毕。\(\blacksquare\)
定理 7.14 对实空间不成立:实内积本身取实值,\(\langle Tv,v\rangle\in\mathbf{R}\) 自动成立,而实空间上并非每个算子都自伴(再如旋转 \(90^\circ\))。它是对复空间说的。最后,把 7.13 与自伴性结合,可以弥补实空间的缺憾:
定理 7.16(自伴算子由二次型决定). 设 \(T\in\mathcal{L}(V)\) 自伴。则 \[ \langle Tv,v\rangle=0 \text{ 对一切 } v\in V \iff T=0 . \]
证明. (\(\Leftarrow\)) 显然。(\(\Rightarrow\)) 若 \(V\) 是复内积空间,这就是定理 7.13,甚至不需要自伴性。故设 \(V\) 是实内积空间。对 \(u,w\in V\),展开 \[ \langle T(u+w),u+w\rangle-\langle T(u-w),u-w\rangle=2\langle Tu,w\rangle+2\langle Tw,u\rangle, \] 而由 \(T\) 的自伴性与实内积的对称性,\(\langle Tw,u\rangle=\langle w,T^{*}u\rangle=\langle w,Tu\rangle=\langle Tu,w\rangle\),于是得到实版本的极化恒等式(原书 7.17): \[ \langle Tu,w\rangle=\frac{\langle T(u+w),u+w\rangle-\langle T(u-w),u-w\rangle}{4}. \] 若 \(\langle Tv,v\rangle=0\) 对一切 \(v\),则右边恒为零,故 \(\langle Tu,w\rangle=0\) 对一切 \(u,w\) 成立;取 \(w=Tu\) 得 \(\|Tu\|^{2}=0\),即 \(Tu=0\) 对一切 \(u\),从而 \(T=0\)。证毕。\(\blacksquare\)
正规算子
只盯着自伴算子是不够的。例如 \(\mathbf{C}^2\) 上的算子 \(T(w,z)=(2w-3z,\,3w+2z)\)(一个"放大 \(\sqrt{13}\) 倍的旋转",特征值 \(2\pm 3i\) 不是实数)显然不可能自伴,但直觉上它与旋转一样"规整",理应可对角化。它的规整之处在于:\(T\) 与 \(T^{*}\) 可以交换,这正是下面要定义的概念。
定义 7.18(正规, normal). 内积空间上的算子 \(T\in\mathcal{L}(V)\) 称为正规的,若它与自己的伴随交换,即 \(TT^{*}=T^{*}T\)。
每个自伴算子都正规:若 \(T=T^{*}\),则 \(TT^{*}=T^2=T^{*}T\)。但反之不然,见下面的例子。还要注意 \(I\) 与一切算子交换,故 \(T-\lambda I\) 的正规性研究是自然的(定理 7.21(d))。
例 7.19(正规但非自伴). 设 \(T\) 是 \(\mathbf{F}^2\) 上矩阵为 \(\begin{pmatrix}2&-3\\ 3&2\end{pmatrix}\) 的算子,即 \(T(w,z)=(2w-3z,\,3w+2z)\)。它不自伴:标准正交基下 \(T\) 自伴要求矩阵等于其共轭转置,而这里 \((2,1)\) 位置的元素 \(3\) 不等于 \((1,2)\) 位置元素 \(-3\) 的共轭。但 \[ TT^{*}=\begin{pmatrix}2&-3\\ 3&2\end{pmatrix}\begin{pmatrix}2&3\\ -3&2\end{pmatrix}=\begin{pmatrix}13&0\\ 0&13\end{pmatrix} =13I, \] 同理 \(T^{*}T=13I\)。故 \(TT^{*}=T^{*}T\),\(T\) 正规。
例(复的与实的正规非自伴算子). (i) 在 \(\mathbf{C}^2\) 上取 \(T=\operatorname{diag}(i,0)\)。则 \(T^{*}=\operatorname{diag}(-i,0)\),\(TT^{*}=T^{*}T=\operatorname{diag}(1,0)\),故 \(T\) 正规;但 \(i\ne\bar i\),矩阵不等于其共轭转置,\(T\) 不自伴。一般地,复对角矩阵(标准正交基下)都是正规的,实对角的才是自伴的。(ii) \(\mathbf{R}^2\) 上旋转 \(90^\circ\) 的算子 \(S(w,z)=(-z,w)\) 满足 \(S^{*}=-S\),故 \(SS^{*}=-S^{2}=S^{*}S=I\):它正规而不自伴(且在实空间上没有特征值)。
定理 7.20(\(T\) 正规当且仅当 \(Tv\) 与 \(T^{*}v\) 等长). 设 \(T\in\mathcal{L}(V)\)。则 \[ T \text{ 正规}\iff \|Tv\|=\|T^{*}v\| \text{ 对一切 } v\in V . \]
证明. 注意 \(T^{*}T-TT^{*}\) 是自伴算子(取伴随并用 \((T^{*})^{*}=T\)、\((AB)^{*}=B^{*}A^{*}\) 验证),故可用定理 7.16。逐项等价: \[ \begin{aligned} T \text{ 正规} &\iff T^{*}T-TT^{*}=0\\ &\iff \langle (T^{*}T-TT^{*})v,v\rangle=0 \text{ 对一切 } v\in V \qquad\text{(由 7.16)}\\ &\iff \langle T^{*}Tv,v\rangle=\langle TT^{*}v,v\rangle \text{ 对一切 } v\in V\\ &\iff \langle Tv,Tv\rangle=\langle T^{*}v,T^{*}v\rangle \text{ 对一切 } v\in V\\ &\iff \|Tv\|^{2}=\|T^{*}v\|^{2} \text{ 对一切 } v\in V\\ &\iff \|Tv\|=\|T^{*}v\| \text{ 对一切 } v\in V, \end{aligned} \] 其中第四行把伴随定义分别用于 \(T^{*}\) 与 \(T\):\(\langle T^{*}(Tv),v\rangle=\langle Tv,(T^{*})^{*}v\rangle=\langle Tv,Tv\rangle\),\(\langle T(T^{*}v),v\rangle=\langle T^{*}v,T^{*}v\rangle\)。证毕。\(\blacksquare\)
例 7.19 中的算子再次印证:\(|\lambda|\) 意义下 \(T\) 把每个向量拉长 \(\sqrt{13}\) 倍,\(T^{*}\) 亦然。下面的定理汇集了正规性的重要推论。
定理 7.21(正规算子的值域、零空间与特征向量). 设 \(T\in\mathcal{L}(V)\) 正规。则
(a) \(\operatorname{null}T=\operatorname{null}T^{*}\);
(b) \(\operatorname{range}T=\operatorname{range}T^{*}\);
(c) \(V=\operatorname{null}T\oplus\operatorname{range}T\);
(d) \(T-\lambda I\) 对每个 \(\lambda\in\mathbf{F}\) 都是正规的;
(e) 对 \(v\in V\)、\(\lambda\in\mathbf{F}\):\(Tv=\lambda v\iff T^{*}v=\bar\lambda v\)。
证明. (a) 设 \(v\in V\)。则 \[ v\in\operatorname{null}T\iff \|Tv\|=0 \iff \|T^{*}v\|=0 \iff v\in\operatorname{null}T^{*}, \] 中间的等价正是定理 7.20。
(b) 由 7.6(d)、本定理之 (a) 与 7.6(b) 依次得 \[ \operatorname{range}T=(\operatorname{null}T^{*})^{\perp}=(\operatorname{null}T)^{\perp}=\operatorname{range}T^{*}. \]
(c) 由 6.49(\(V=U\oplus U^{\perp}\))、7.6(b) 与 (b) 依次得 \[ V=\operatorname{null}T\oplus(\operatorname{null}T)^{\perp}=\operatorname{null}T\oplus\operatorname{range}T^{*}=\operatorname{null}T\oplus\operatorname{range}T . \]
(d) 设 \(\lambda\in\mathbf{F}\)。注意 \((T-\lambda I)^{*}=T^{*}-\bar\lambda I\)(由 7.5 的 (a)(b)(e)),于是 \[ \begin{aligned} (T-\lambda I)(T-\lambda I)^{*} &=(T-\lambda I)(T^{*}-\bar\lambda I)\\ &=TT^{*}-\bar\lambda T-\lambda T^{*}+|\lambda|^{2}I\\ &=T^{*}T-\lambda T^{*}-\bar\lambda T+|\lambda|^{2}I\\ &=(T^{*}-\bar\lambda I)(T-\lambda I)\\ &=(T-\lambda I)^{*}(T-\lambda I), \end{aligned} \] 其中第三个等号用了 \(TT^{*}=T^{*}T\)。故 \(T-\lambda I\) 正规。
(e) 设 \(v\in V\)、\(\lambda\in\mathbf{F}\)。由 (d) 与定理 7.20, \[ \|(T-\lambda I)v\|=\|(T-\lambda I)^{*}v\|=\|(T^{*}-\bar\lambda I)v\|, \] 故左边为零当且仅当右边为零,即 \(Tv=\lambda v\) 当且仅当 \(T^{*}v=\bar\lambda v\)。证毕。\(\blacksquare\)
结论 (e) 值得玩味:练习 3(原书 7A.3)表明,对任意算子,\(T^{*}\) 的特征值集合是 \(T\) 的特征值集合的共轭,但二者的特征向量可以毫无关系;而 (e) 说明正规算子与它的伴随拥有同一批特征向量——这正是"\(T\) 与 \(T^{*}\) 和平共处"的具体含义。
定理 7.22(正规算子的特征向量两两正交). 设 \(T\in\mathcal{L}(V)\) 正规,则 \(T\) 的属于不同特征值的特征向量 (eigenvectors) 互相正交。
证明. 设 \(\alpha\ne\beta\) 是 \(T\) 的两个特征值,对应的特征向量为 \(u,v\):\(Tu=\alpha u\)、\(Tv=\beta v\),且 \(u,v\ne 0\)。由 7.21(e),\(T^{*}v=\bar\beta v\)。于是 \[ (\alpha-\beta)\langle u,v\rangle=\langle \alpha u,v\rangle-\langle u,\bar\beta v\rangle=\langle Tu,v\rangle-\langle u,T^{*}v\rangle=0, \] 其中 \(\langle \alpha u,v\rangle=\alpha\langle u,v\rangle\) 用第一变元齐性,\(\langle u,\bar\beta v\rangle=\beta\langle u,v\rangle\) 用第二变元共轭齐性,而 \(\langle Tu,v\rangle=\langle u,T^{*}v\rangle\) 是伴随的定义。因 \(\alpha\ne\beta\),得 \(\langle u,v\rangle=0\),即 \(u\perp v\)。证毕。\(\blacksquare\)
例(7.22 的数值验证). 对例 7.19 的算子 \(T(w,z)=(2w-3z,3w+2z)\):解 \((T-(2+3i)I)v=0\) 得特征向量 \(u=(1,-i)\),解 \((T-(2-3i)I)v=0\) 得特征向量 \(v=(1,i)\)。计算 \[ \langle u,v\rangle=1\cdot\overline{1}+(-i)\cdot\overline{i}=1+(-i)(-i)=1+i^{2}=0, \] 即 \((1,-i)\perp(1,i)\),与 7.22 一致。
定理 7.23(\(T\) 正规当且仅当"实部"与"虚部"交换;设 \(\mathbf{F}=\mathbf{C}\)). 设 \(\mathbf{F}=\mathbf{C}\)、\(T\in\mathcal{L}(V)\)。则 \(T\) 正规当且仅当存在交换的自伴算子 \(A,B\) 使 \(T=A+iB\)。
证明. 设 \(T\) 正规。令 \[ A=\frac{T+T^{*}}{2},\qquad B=\frac{T-T^{*}}{2i} \] (原书 7.24)。由 7.5 容易验证 \(A^{*}=A\)、\(B^{*}=B\),且 \(A+iB=\frac{T+T^{*}}{2}+\frac{T-T^{*}}{2}=T\)。直接展开可算出 \[ AB-BA=\frac{T^{*}T-TT^{*}}{2i} \] (原书 7.25:分子中 \(T^2\)、\((T^{*})^{2}\) 项相消,只剩 \(\pm(T^{*}T-TT^{*})\))。因 \(T\) 正规,右端为零,故 \(AB=BA\)。
反之,设存在交换的自伴算子 \(A,B\) 使 \(T=A+iB\)。则 \(T^{*}=A-iB\),两式相加除以 \(2\) 得 \(A=\frac{T+T^{*}}{2}\),相减除以 \(2i\) 得 \(B=\frac{T-T^{*}}{2i}\),即 7.24 成立,从而 7.25 成立。由 \(AB=BA\) 知 \(T^{*}T-TT^{*}=0\),即 \(T\) 正规。证毕。\(\blacksquare\)
在"\(\mathcal{L}(V)\) 类比于 \(\mathbf{C}\)、伴随类比于共轭"的图景下,7.23 中的 \(A\) 与 \(B\) 分别是 \(T\) 的"实部"与"虚部",而结论说:\(T\) 正规 \(\iff\) 实部与虚部交换。这与复数 \(z=a+bi\) 的乘法行为(\(z\bar z=\bar z z\) 恒成立,但"算子版"需要交换性才能保证)相互印证。原书练习 7A.12 给出了实、复空间都适用的版本(用斜伴算子 \(B^{*}=-B\) 代替 \(iB\))。
小结与展望:通往谱定理
本节完成了两件事:其一,建立伴随 \(T^{*}\) 的全部基础设施——定义与存在唯一性(里斯表示定理)、代数性质 7.5、对偶公式 7.6、矩阵刻画 7.9;其二,定义了两个中心概念:自伴(\(T=T^{*}\),"实数"的算子类比,特征值必实)与正规(\(TT^{*}=T^{*}T\),即 \(T\) 与 \(T^{*}\) "和平共处"、可同时对角化地共享特征向量)。
正规性的意义已经初见端倪:定理 7.22 表明正规算子的不同特征值自动给出相互正交的特征向量。要做到"正交对角化"(即找一组由特征向量构成的标准正交基,使 \(T\) 的矩阵成为对角阵),只差"特征向量足够多"这一步。这正是下一节的内容:
- 复谱定理(7.B):\(\mathbf{F}=\mathbf{C}\) 时,\(T\) 正规 \(\iff\) \(V\) 有由 \(T\) 的特征向量组成的标准正交基。正规性是复空间上正交对角化的充要条件。
- 实谱定理(7.B):\(\mathbf{F}=\mathbf{R}\) 时,由于实空间上可能根本没有特征值(如旋转 \(90^\circ\)),正确的条件换成自伴:\(T\) 自伴 \(\iff\) \(V\) 有由 \(T\) 的特征向量组成的标准正交基。定理 7.12(特征值必实)与 7.16 正是为它铺路。
再往后,7.C 将研究正算子(自伴算子中"\(\langle Tv,v\rangle\ge 0\)"的一支)及其平方根,7.D 研究等距与酉算子(图 2 中蓝色的圆)以及 QR、Cholesky 分解,7.E 则以奇异值分解收官——它们全都建立在本节的伴随语言之上。
练习
以下练习改编自原书 Exercises 7A(括号内注明原题号),均可仅用本节结果完成。
练习 7.A-1
(原书 7A.1)设 \(n\) 为正整数,定义 \(T\in\mathcal{L}(\mathbf{F}^{n})\) 为 \(T(z_1,\dots,z_n)=(0,z_1,\dots,z_{n-1})\)。求 \(T^{*}(z_1,\dots,z_n)\) 的公式。
解答设 \(x=(x_1,\dots,x_n)\in\mathbf{F}^{n}\)、\(z=(z_1,\dots,z_n)\in\mathbf{F}^{n}\)。在标准内积(第一变元线性)下, \[ \langle Tx,z\rangle=\langle (0,x_1,\dots,x_{n-1}),(z_1,\dots,z_n)\rangle =0\cdot\bar z_1+x_1\bar z_2+\cdots+x_{n-1}\bar z_n =\langle (x_1,\dots,x_n),(z_2,z_3,\dots,z_n,0)\rangle . \] 故 \(T^{*}(z_1,\dots,z_n)=(z_2,\dots,z_n,0)\):右移算子的伴随是左移算子。
练习 7.A-2
(原书 7A.2)设 \(T\in\mathcal{L}(V,W)\)。证明:\(T=0\iff T^{*}=0\iff T^{*}T=0\iff TT^{*}=0\)。
解答只需证 "\(T^{*}T=0\Rightarrow T=0\)" 与 "\(TT^{*}=0\Rightarrow T=0\)",其余蕴含方向显然(零算子的伴随是零算子,零算子之积是零算子)。设 \(T^{*}T=0\)。则对一切 \(v\in V\), \[ 0=\langle T^{*}Tv,v\rangle=\langle Tv,Tv\rangle=\|Tv\|^{2}, \] (中间等号:把伴随定义用于 \(T^{*}\) 并用 \((T^{*})^{*}=T\))故 \(Tv=0\) 对一切 \(v\) 成立,即 \(T=0\)。同理,设 \(TT^{*}=0\),则对一切 \(w\in W\),\(0=\langle TT^{*}w,w\rangle=\langle T^{*}w,T^{*}w\rangle=\|T^{*}w\|^{2}\),故 \(T^{*}=0\),再由已证方向得 \(T=0\)。
练习 7.A-3
(原书 7A.3)设 \(T\in\mathcal{L}(V)\)、\(\lambda\in\mathbf{F}\)。证明:\(\lambda\) 是 \(T\) 的特征值 \(\iff\) \(\bar\lambda\) 是 \(T^{*}\) 的特征值;并举例说明 \(T\) 与 \(T^{*}\) 的特征向量未必相同。
解答有限维中,\(\lambda\) 是 \(T\) 的特征值 \(\iff\) \(T-\lambda I\) 不可逆。由 7.5(f)(及其逆向前提:\(S\) 可逆 \(\iff\) \(S^{*}\) 可逆,因为 \(S^{*}\) 可逆时 \((S^{*})^{*}=S\) 也可逆),\(T-\lambda I\) 可逆 \(\iff\) \((T-\lambda I)^{*}=T^{*}-\bar\lambda I\) 可逆(用了 \((\lambda I)^{*}=\bar\lambda I\),由 7.5(b)(e))。串起来即得结论。特征向量可以不同:取 \(T\in\mathcal{L}(\mathbf{C}^{2})\) 的矩阵为 \(\begin{pmatrix}0&1\\ 0&0\end{pmatrix}\),则 \(T\) 与 \(T^{*}\) 的特征值都只有 \(0\),但 \(\operatorname{null}T=\operatorname{span}(1,0)\) 而 \(\operatorname{null}T^{*}=\operatorname{span}(0,1)\),两族特征向量毫不相干。对照定理 7.21(e):正规算子绝无此现象。
练习 7.A-4
(原书 7A.4)设 \(T\in\mathcal{L}(V)\),\(U\) 是 \(V\) 的子空间。证明:\(U\) 在 \(T\) 下不变 \(\iff\) \(U^{\perp}\) 在 \(T^{*}\) 下不变。
解答(\(\Rightarrow\)) 设 \(U\) 在 \(T\) 下不变。任取 \(u\in U\)、\(w\in U^{\perp}\)。因 \(Tu\in U\),有 \(\langle Tu,w\rangle=0\);由伴随定义 \(\langle u,T^{*}w\rangle=\langle Tu,w\rangle=0\)。这说明 \(T^{*}w\) 与一切 \(u\in U\) 正交,即 \(T^{*}w\in U^{\perp}\)。故 \(U^{\perp}\) 在 \(T^{*}\) 下不变。(\(\Leftarrow\)) 设 \(U^{\perp}\) 在 \(T^{*}\) 下不变。任取 \(u\in U\)、\(w\in U^{\perp}\)。因 \(T^{*}w\in U^{\perp}\),有 \(\langle u,T^{*}w\rangle=0\);由伴随定义 \(\langle Tu,w\rangle=\langle u,T^{*}w\rangle=0\)。故 \(Tu\in(U^{\perp})^{\perp}=U\)(后者用 6.52)。即 \(U\) 在 \(T\) 下不变。(另法:把已证的 (\(\Rightarrow\)) 应用于 \(T^{*}\) 与子空间 \(U^{\perp}\),再用 \((T^{*})^{*}=T\) 与 \((U^{\perp})^{\perp}=U\)。)
练习 7.A-5
(原书 7A.9)证明:两个自伴算子 \(S,T\in\mathcal{L}(V)\) 的乘积 \(ST\) 自伴,当且仅当 \(S\) 与 \(T\) 交换。
解答由 7.5(d) 与 \(S^{*}=S\)、\(T^{*}=T\),得 \((ST)^{*}=T^{*}S^{*}=TS\)。于是 \[ ST \text{ 自伴}\iff ST=(ST)^{*}\iff ST=TS, \] 即 \(ST\) 自伴当且仅当 \(S\) 与 \(T\) 交换。这也再次解释了"正规"命名的深意:交换性是把"自伴"推广到乘积与一般算子的关键。
练习 7.A-6
(原书 7A.11)定义 \(S\in\mathcal{L}(\mathbf{F}^{2})\) 为 \(S(w,z)=(-z,w)\)。(a) 求 \(S^{*}\);(b) 证明 \(S\) 正规但不自伴;(c) 求 \(S\) 的全部特征值。
解答(a) 设 \((a,b)\in\mathbf{F}^{2}\)。则 \[ \langle S(w,z),(a,b)\rangle=\langle (-z,w),(a,b)\rangle=(-z)\bar a+w\bar b =\langle (w,z),(b,-a)\rangle, \] 故 \(S^{*}(a,b)=(b,-a)\),即 \(S^{*}=-S\)。(b) 由 (a),\(SS^{*}=S(-S)=-S^{2}\),\(S^{*}S=(-S)S=-S^{2}\),故 \(SS^{*}=S^{*}S\)(也可直接算 \(S^{2}=-I\),从而 \(SS^{*}=S^{*}S=I\)),\(S\) 正规。而 \(S^{*}=-S\ne S\)(因 \(S\ne 0\)),故 \(S\) 不自伴。\(\mathbf{F}=\mathbf{R}\) 时 \(S\) 正是逆时针旋转 \(90^\circ\)。(c) 特征方程:\(S(w,z)=\lambda(w,z)\) 即 \(-z=\lambda w\)、\(w=\lambda z\),消去得 \(w=-\lambda^{2}w\),故 \(\lambda^{2}=-1\)。当 \(\mathbf{F}=\mathbf{C}\) 时特征值为 \(i\) 与 \(-i\)(对应特征向量 \((1,-i)\) 与 \((1,i)\),由 7.22 它们正交——可自行验证内积为零);当 \(\mathbf{F}=\mathbf{R}\) 时 \(S\) 没有特征值,这也说明实空间上"正规"并不能保证特征值的存在。