引言:本书的两大主题
线性代数 (linear algebra) 研究有限维向量空间上的线性映射 (linear maps),以及带内积结构的内积空间 (inner product spaces)。这正是贯穿全书的两大主题:前者处理向量空间之间"保持线性运算"的函数,由它逐步发展出基与维数、矩阵表示、特征值、若尔当形等一整套理论;后者在向量空间中引入长度、夹角与正交的概念,最终把"什么样的算子可以在标准正交基下对角化"这样的问题回答得干净利落(谱定理)。与许多教材不同,本书不以行列式为主线,而是让线性映射与内积这两个概念自己把故事讲完。
本书的另一个鲜明特点是:核心定理对实数与复数统一叙述。线性代数的大部分结论,只要叙述得当,对 \(\mathbb{R}\) 与 \(\mathbb{C}\) 的证明便完全相同——证明中真正被用到的只是数的运算律,而不是数"长得像什么"。当然,也有少数重要定理(例如谱定理的完整形式)必须借助复数。因此,在给出向量空间的抽象定义之前,我们先认真复习复数,并约定一个能同时代表 \(\mathbb{R}\) 与 \(\mathbb{C}\) 的记号 \(\mathbb{F}\)(见记号 1.6)。
复数 \(\mathbb{C}\)
中学里常说"\(\mathrm{i}\) 是 \(-1\) 的平方根",但这句话在逻辑上有循环之嫌:\(-1\) 的平方根究竟是怎样一个"数"?本书的做法是用实数对来构造复数,把复数的存在性与运算律完全奠定在实数性质之上,严格而初等。
一个复数 (complex number) 是一个有序实数对 \((a,b)\)。全体复数构成的集合记作 \(\mathbb{C}=\{(a,b):a,b\in\mathbb{R}\}\),其上加法与乘法分别定义为
\[ (a,b)+(c,d)=(a+c,\;b+d),\qquad (a,b)\cdot(c,d)=(ac-bd,\;ad+bc). \]习惯上把 \((a,b)\) 写成 \(a+b\mathrm{i}\),其中 \(a\) 称为实部 (real part),\(b\) 称为虚部 (imaginary part),而 \(\mathrm{i}=(0,1)\)。按定义 1.1 直接计算:
\[ \mathrm{i}^2=(0,1)(0,1)=(0\cdot 0-1\cdot 1,\;0\cdot 1+1\cdot 0)=(-1,0)=-1, \]这就是"\(\mathrm{i}\) 的平方等于 \(-1\)"的严格含义。乘法公式看似突兀,其实它不过是"假定 \(\mathrm{i}^2=-1\),按分配律展开 \((a+b\mathrm{i})(c+d\mathrm{i})\) 再合并同类项"的坐标版本。
例 1(复数运算). 加法:\((3,2)+(5,-1)=(8,1)\),即 \((3+2\mathrm{i})+(5-\mathrm{i})=8+\mathrm{i}\)。乘法:按坐标公式 \((3,2)(5,-1)=(15+2,\;-3+10)=(17,7)\);按通常展开 \((3+2\mathrm{i})(5-\mathrm{i})=15-3\mathrm{i}+10\mathrm{i}-2\mathrm{i}^2=17+7\mathrm{i}\),两者一致。
下面的命题罗列 \(\mathbb{C}\) 的基本运算律。它们在本节随后构造 \(\mathbb{F}^n\) 的运算时将被逐坐标地反复调用。
设 \(\alpha,\beta,\gamma\in\mathbb{C}\)。则:
- 交换律 (commutativity):\(\alpha+\beta=\beta+\alpha\),\(\alpha\beta=\beta\alpha\);
- 结合律 (associativity):\((\alpha+\beta)+\gamma=\alpha+(\beta+\gamma)\),\((\alpha\beta)\gamma=\alpha(\beta\gamma)\);
- 单位元 (identity):\(\alpha+0=\alpha\),\(\alpha\cdot 1=\alpha\);
- 加法逆元 (additive inverse):存在 \(-\alpha\in\mathbb{C}\),使 \(\alpha+(-\alpha)=0\);
- 乘法逆元 (multiplicative inverse):若 \(\alpha\neq 0\),则存在 \(\alpha^{-1}\in\mathbb{C}\),使 \(\alpha\alpha^{-1}=1\);
- 分配律 (distributivity):\(\alpha(\beta+\gamma)=\alpha\beta+\alpha\gamma\)。
证明思路. 全部结论最终都归结为 \(\mathbb{R}\) 上的相应事实,方法是按坐标展开。以乘法交换律为例:设 \(\alpha=(a,b),\ \beta=(c,d)\),则
\[ \alpha\beta=(ac-bd,\;ad+bc)=(ca-db,\;cb+da)=\beta\alpha, \]其中只用到 \(\mathbb{R}\) 中数的交换律与结合律。加法单位元是 \((0,0)\),乘法单位元是 \((1,0)\);\((a,b)\) 的加法逆元是 \((-a,-b)\)。最值得留意的是乘法逆元:设 \(\alpha=(a,b)\neq(0,0)\),则实数 \(a^2+b^2\gt 0\),令
\[ \alpha^{-1}=\Bigl(\frac{a}{a^2+b^2},\;-\frac{b}{a^2+b^2}\Bigr), \]直接展开即得 \(\alpha\alpha^{-1}=(1,0)=1\)。结合律与分配律的验证是同样的坐标展开,留作练习 1。
有了逆元,减法与除法便可自然引入。
对 \(\alpha,\beta\in\mathbb{C}\),定义 \(\alpha-\beta=\alpha+(-\beta)\);当 \(\beta\neq 0\) 时,定义 \(\alpha/\beta=\alpha\beta^{-1}\),并把 \(1/\beta\) 也记作 \(\beta^{-1}\)。
例 2(除法). 由逆元公式得 \((2,-1)^{-1}=(2/5,\;1/5)=\tfrac{2+\mathrm{i}}{5}\),于是
\[ \frac{1+\mathrm{i}}{2-\mathrm{i}}=(1+\mathrm{i})\cdot\frac{2+\mathrm{i}}{5}=\frac{2+\mathrm{i}+2\mathrm{i}+\mathrm{i}^2}{5}=\frac{1+3\mathrm{i}}{5}=\frac{1}{5}+\frac{3}{5}\mathrm{i}. \]几何图景:复平面. 把 \((a,b)\in\mathbb{C}\) 画成平面上坐标为 \((a,b)\) 的点,或从原点指向该点的箭头,便得到复平面 (complex plane):横轴叫实轴,纵轴叫虚轴。在此图景中,复数的加法就是平面向量的加法,服从平行四边形法则;而复数特有的乘法也有鲜明的几何意义。
例 3(乘以 \(\mathrm{i}\) 即旋转 \(90^\circ\)). 对任意 \(z=x+y\mathrm{i}\in\mathbb{C}\),
\[ \mathrm{i}z=\mathrm{i}(x+y\mathrm{i})=x\mathrm{i}+y\mathrm{i}^2=-y+x\mathrm{i}, \]即点 \((x,y)\) 被送到 \((-y,x)\),这恰是绕原点逆时针旋转 \(90^\circ\)。于是连乘两次 \(\mathrm{i}\)(即乘 \(\mathrm{i}^2=-1\))就是旋转 \(180^\circ\)。图 1 右下方展示了 \(z=1.5-1.5\mathrm{i}\) 乘 \(\mathrm{i}\) 后得到 \(1.5+1.5\mathrm{i}\) 的过程:两个向量等长,方向恰好相差 \(90^\circ\)。
记号 \(\mathbb{F}\) 与"域"插话
约定 \(\mathbb{F}\in\{\mathbb{R},\mathbb{C}\}\):符号 \(\mathbb{F}\) 恒表示实数域 \(\mathbb{R}\) 与复数域 \(\mathbb{C}\) 二者之一。
本书的一切定义与定理都对一般的 \(\mathbb{F}\) 陈述,于是每条结论自动同时覆盖 \(\mathbb{R}\)、\(\mathbb{C}\) 两种情形;凡两者有实质差别之处,书中都会明确指出。这样处理不只是节省篇幅:它还迫使我们在证明中辨认"真正用到的性质"——几乎总是命题 1.3 那几条运算律,而不是数本身的具体形态。这也是书名"线性代数应该这样学"的一种体现。
域的插话. 满足命题 1.3 所列运算律的数学结构称为域 (field)。除 \(\mathbb{R}\) 与 \(\mathbb{C}\) 外,有理数域 \(\mathbb{Q}\) 是最典型的例子,此外还有模素数 \(p\) 的剩余类域 \(\mathbb{Z}/p\mathbb{Z}\) 等有限域。事实上,本书的绝大多数定理对任何域都成立。不过,为了不让注意力从主线(线性映射与内积空间)上移开,本书只取 \(\mathbb{F}=\mathbb{R}\) 或 \(\mathbb{C}\):它们与分析、几何的联系最紧密,而且 \(\mathbb{C}\) 还有一个额外好处——每个非常数的复系数多项式在 \(\mathbb{C}\) 中都有根(见第 4 章),这将使后续关于算子的结论更加完整。
列表
在定义 \(\mathbb{F}^n\) 之前,需要一个纯粹的记号层面的预备概念。
设 \(n\) 为正整数。一个长度 (length) 为 \(n\) 的列表 (list) 是按确定顺序排好的 \(n\) 个对象(元素可以重复),记作
\[ (x_1,\dots,x_n). \]两个列表相等,当且仅当它们的长度相同,并且每个对应位置上的元素都相同。
列表与集合是不同的概念:集合不区分顺序、不计重复,而列表把"排在第几位"也当作信息的一部分。例如 \((7,7)\) 是一个完全合法的、长度为 2 的列表;但作为集合,\(\{7,7\}\) 与 \(\{7\}\) 是同一个集合。列表的元素也不必是数,可以是向量、多项式乃至别的列表——第 2 章讨论线性无关与张成时,"向量的列表"将成为基本用语。
例 4(列表与集合的区别). \((3,3)\) 与 \((3)\) 是不同的列表:长度分别为 2 与 1。\((3,3,-2)\) 与 \((-2,3,3)\) 也是不同的列表,尽管它们含有完全相同的元素——作为集合,二者都等于 \(\{3,-2\}\)。
\(\mathbb{F}^n\):向量的初步舞台
对正整数 \(n\),记
\[ \mathbb{F}^n=\{(x_1,\dots,x_n):\;x_j\in\mathbb{F},\;j=1,\dots,n\}, \]即分量取自 \(\mathbb{F}\) 的、长度为 \(n\) 的列表的全体。\(\mathbb{F}^n\) 中的元素称为向量 (vector),\(x_j\) 称为该向量的第 \(j\) 个分量。
于是 \(\mathbb{R}^2\) 就是熟悉的坐标平面,\(\mathbb{R}^3\) 是坐标空间;\((3,-1)\in\mathbb{R}^2\),\((\mathrm{i},\,2-\mathrm{i},\,4)\in\mathbb{C}^3\),而 \((2,\pi,-\sqrt{3})\in\mathbb{R}^3\subseteq\mathbb{C}^3\)——实数也是复数,故 \(\mathbb{R}^n\subseteq\mathbb{C}^n\)。当 \(n=1\) 时 \(\mathbb{F}^1=\mathbb{F}\),单个数本身就是向量;当 \(n\ge 4\) 时,\(\mathbb{R}^n\) 已无法直接画出来,但坐标语言畅通无阻。这正是代数方法的威力:几何直观在低维中孕育,却借助代数通行于任意维数。
术语说明:本节中"向量"专指 \(\mathbb{F}^n\) 的元素;从下一节起,"向量"将指更一般的抽象向量空间中的元素,而 \(\mathbb{F}^n\) 则是它们最重要的样板。
\(\mathbb{F}^n\) 上的代数运算
只有向量还不够,还需要向量之间以及数与向量之间的运算。以下恒设 \(n\) 为正整数。本书的记号习惯是:向量用字母 \(x,y,z,u,v,w\) 表示,标量用希腊字母 \(\lambda,\mu\) 等表示。
对 \(x=(x_1,\dots,x_n)\) 与 \(y=(y_1,\dots,y_n)\in\mathbb{F}^n\),定义向量加法
\[ x+y=(x_1+y_1,\;\dots,\;x_n+y_n). \]第一条良好性质立刻出现,而它的证明恰好揭示了开头认真处理复数的用意。
对一切 \(x,y\in\mathbb{F}^n\),有 \(x+y=y+x\)。
证明. 按定义 1.13,加法是逐坐标进行的,而对每个 \(j\),命题 1.3 给出 \(x_j+y_j=y_j+x_j\)——当 \(\mathbb{F}=\mathbb{C}\) 时,这恰是复数加法的交换律。于是
\[ x+y=(x_1+y_1,\dots,x_n+y_n)=(y_1+x_1,\dots,y_n+x_n)=y+x. \qquad\square \]可见向量加法的交换律并不是一条新的假设,而是从 \(\mathbb{F}\) 中数的交换律"逐坐标"继承而来。
\(\mathbb{F}^n\) 中的零向量 (zero vector) 指全部分量均为 \(0\) 的向量:
\[ 0=(0,\dots,0). \]对一切 \(x\in\mathbb{F}^n\),有 \(x+0=x\)。
提醒:记号 \(0\) 从此身兼两职——既表示数 \(0\),又表示零向量,其确切含义由上下文确定。这种"一符两用"贯穿全书,习惯之后并不会引起误解。
设 \(x=(x_1,\dots,x_n)\in\mathbb{F}^n\)。令 \(-x=(-x_1,\dots,-x_n)\),则
\[ x+(-x)=0, \]\(-x\) 称为 \(x\) 的加法逆元 (additive inverse)。进而定义减法 \(y-x=y+(-x)\)。
证明. 逐坐标地有 \(x_j+(-x_j)=0\)(命题 1.3),再依定义 1.13 与 1.15 合成即得。
最后一种运算是数与向量相乘。
\(\mathbb{F}\) 中的数称为标量 (scalar)。对 \(\lambda\in\mathbb{F}\) 与 \(x=(x_1,\dots,x_n)\in\mathbb{F}^n\),定义标量乘法 (scalar multiplication)
\[ \lambda x=\lambda(x_1,\dots,x_n)=(\lambda x_1,\;\dots,\;\lambda x_n), \]右端各分量中的乘法是 \(\mathbb{F}\) 中数的乘法。
例 5(\(\mathbb{R}^3\) 中的运算). 设 \(u=(2,1,-3)\),\(w=(-1,4,2)\in\mathbb{R}^3\)。则
\[ u+w=(1,5,-1),\qquad 3u=(6,3,-9),\qquad -2w=(2,-8,-4), \]并且 \(2(u+w)=(2,10,-2)=2u+2w\),这是分配律的一个具体实例。若把数系换成 \(\mathbb{C}\),例如取 \((\mathrm{i},2),\,(1-\mathrm{i},1)\in\mathbb{C}^2\),则 \((\mathrm{i},2)+(1-\mathrm{i},1)=(1,3)\),而 \(\mathrm{i}(1-\mathrm{i},1)=(1+\mathrm{i},\,\mathrm{i})\)——标量本身可以是复数,这正是 \(\mathbb{C}^n\) 与 \(\mathbb{R}^n\) 的差别所在。
把上述定义与命题合起来,\(\mathbb{F}^n\) 上的加法与标量乘法满足下面这组良好性质:对一切 \(x,y,z\in\mathbb{F}^n\) 与 \(\lambda,\mu\in\mathbb{F}\),
\[ x+y=y+x,\qquad (x+y)+z=x+(y+z),\qquad x+0=x,\qquad x+(-x)=0, \] \[ \lambda(x+y)=\lambda x+\lambda y,\qquad (\lambda+\mu)x=\lambda x+\mu x,\qquad (\lambda\mu)x=\lambda(\mu x),\qquad 1x=x. \]每一条都可以逐坐标、借助命题 1.3 直接验证(练习 5 即是一次演习)。这组性质绝非无聊的清单:在下一节 1.B 中,任何一个带有加法与数乘、满足这组性质的集合都称为向量空间 (vector space),而 \(\mathbb{F}^n\) 正是向量空间的原型。讲过基与维数(第 2 章)之后还会看到:每个有限维向量空间"看起来"都像某个 \(\mathbb{F}^n\)。可以说,本书前几章的任务,就是把"像 \(\mathbb{F}^n\) 一样可运算"这一直觉提炼成精确的理论。
几何直观:箭头、平行四边形与伸缩
取 \(\mathbb{F}=\mathbb{R}\)、\(n=2\)。把向量 \((x,y)\in\mathbb{R}^2\) 画成从原点指向点 \((x,y)\) 的箭头。更有用的观点是把向量理解为"方向与长度",起点可以任意平移:从点 \(p\) 出发指向 \(p+v\) 的箭头,与从原点出发指向 \(v\) 的箭头表示同一个向量 \(v\)。位移、速度、力这些物理量都是这种"起点自由"的向量。
加法:平行四边形法则 (parallelogram law)。向量 \(v+w\) 是以 \(v\)、\(w\) 为两邻边的平行四边形的对角线。等价的说法是三角形法则:把 \(v\) 平移,使其起点落在 \(w\) 的终点,则由 \(w\) 的起点指向 \(v\) 的终点的箭头就是 \(v+w\)。直观上:先沿 \(w\) 走再沿 \(v\) 走,净位移是 \(v+w\),且与行走顺序无关——这正是交换律 \(v+w=w+v\) 的几何面目。
数乘:伸缩. \(\lambda v\) 与 \(v\) 同在一条过原点的直线上:当 \(0\lt\lambda\lt 1\) 时缩短,当 \(\lambda\gt 1\) 时伸长,当 \(\lambda\lt 0\) 时反向。特别地,\(-v\) 与 \(v\) 等长反向,而 \(0v=0\) 缩为原点。图 2 在同一幅图中展示了 \(v=(2,1)\) 的若干标量倍数:它们全部躺在同一条直线上,这就是"共线" (collinear) 一词的字面来源。
复平面的回望. 作为集合与加法结构,\(\mathbb{C}\) 与 \(\mathbb{R}^2\) 完全一致(把 \((a,b)\) 读作 \(a+b\mathrm{i}\) 即可);复数额外自带乘法,于是有"乘 \(\mathrm{i}\) 即旋转 \(90^\circ\)"这样由纯代数操作派生出的几何(图 1)。第 6 章将在 \(\mathbb{F}^n\) 上引入内积,使"长度"与"正交"对任意维数(包括复的情形)都有意义。就本节而言,请把 \(\mathbb{F}^n\) 想象成一个可以做加法与数乘的点的世界:低维图像是想象的拐杖,代数才是通行于任意维数的语言。
练习
练习 1.A-1
完成命题 1.3 的证明:验证复数乘法对加法的分配律 \(\alpha(\beta+\gamma)=\alpha\beta+\alpha\gamma\) 对一切 \(\alpha,\beta,\gamma\in\mathbb{C}\) 成立。
解答设 \(\alpha=(a,b)\),\(\beta=(c,d)\),\(\gamma=(e,f)\)。一方面,\(\beta+\gamma=(c+e,\;d+f)\),故
\[ \alpha(\beta+\gamma)=\bigl(a(c+e)-b(d+f),\;a(d+f)+b(c+e)\bigr)=(ac+ae-bd-bf,\;ad+af+bc+be). \]另一方面,\(\alpha\beta=(ac-bd,\;ad+bc)\),\(\alpha\gamma=(ae-bf,\;af+be)\),相加得
\[ \alpha\beta+\alpha\gamma=(ac-bd+ae-bf,\;ad+bc+af+be). \]两个表达式的对应分量相同(整理时只用到 \(\mathbb{R}\) 的交换律与结合律),故分配律成立。乘法结合律的验证同理,只是展开更长。
练习 1.A-2
把下列复数写成 \(a+b\mathrm{i}\) 的形式:(a) \((1+\mathrm{i})(2-\mathrm{i})+3\mathrm{i}\);(b) \(\dfrac{1+\mathrm{i}}{2-\mathrm{i}}\)。
解答(a) \((1+\mathrm{i})(2-\mathrm{i})=2-\mathrm{i}+2\mathrm{i}-\mathrm{i}^2=3+\mathrm{i}\),再加 \(3\mathrm{i}\) 得 \(3+4\mathrm{i}\)。
(b) 由逆元公式 \((2,-1)^{-1}=(2/5,\;1/5)=\tfrac{2+\mathrm{i}}{5}\),故 \(\dfrac{1+\mathrm{i}}{2-\mathrm{i}}=\dfrac{(1+\mathrm{i})(2+\mathrm{i})}{5}=\dfrac{1+3\mathrm{i}}{5}=\dfrac{1}{5}+\dfrac{3}{5}\mathrm{i}\)(参见例 2)。
练习 1.A-3
证明:对每个 \(z=x+y\mathrm{i}\in\mathbb{C}\),用 \(-\mathrm{i}\) 去乘 \(z\),相当于把对应点绕原点顺时针旋转 \(90^\circ\)。
解答计算 \((-\mathrm{i})(x+y\mathrm{i})=-x\mathrm{i}-y\mathrm{i}^2=y-x\mathrm{i}\),即点 \((x,y)\) 被送到 \((y,-x)\)。检验方向:\((1,0)\) 被送到 \((0,-1)\),即正实轴转到负虚轴,确为顺时针旋转 \(90^\circ\)。也可以这样看:\(-\mathrm{i}=\mathrm{i}^3\),故乘 \(-\mathrm{i}\) 等于连续三次"乘 \(\mathrm{i}\)",即连续逆时针转三个 \(90^\circ\),合起来就是顺时针 \(90^\circ\)。
练习 1.A-4
判断下列说法是否正确,并说明理由:(a) \((3,3)\) 与 \((3)\) 表示同一个对象;(b) 若两个长度相同的列表所含元素完全相同(不计顺序与重复次数),则它们是同一个列表。
解答(a) 不正确:二者长度分别为 2 与 1,而列表相等要求长度相同。(b) 不正确:\((3,3,-2)\) 与 \((-2,3,3)\) 长度相同、元素相同(作为集合都是 \(\{3,-2\}\)),但对应位置的元素不同,是两个不同的列表。列表的本质特征是"有序且可重复",这与集合恰好相反。
练习 1.A-5
设 \(u=(1,2,-3)\),\(v=(0,-1,2)\in\mathbb{R}^3\)。计算 \(u+2v\) 与 \(-(u+v)\),并验证 \(2(u+2v)=2u+4v\)。
解答\(u+2v=(1+2\cdot 0,\;2+2\cdot(-1),\;-3+2\cdot 2)=(1,0,1)\);\(u+v=(1,1,-1)\),故 \(-(u+v)=(-1,-1,1)\)。又 \(2(u+2v)=2(1,0,1)=(2,0,2)\),而 \(2u+4v=(2,4,-6)+(0,-4,8)=(2,0,2)\),二者相等。这是数乘对向量加法的分配律与性质 \(\lambda(\mu x)=(\lambda\mu)x\) 的一次具体演习。
练习 1.A-6
设 \(v=(2,1)\in\mathbb{R}^2\)。在坐标平面上描出 \(2v\)、\(\tfrac{1}{2}v\)、\(-v\)、\(-2v\),并说明集合 \(\{\lambda v:\lambda\in\mathbb{R}\}\) 是平面中的什么图形。
解答\(2v=(4,2)\) 与 \(\tfrac{1}{2}v=(1,\tfrac{1}{2})\) 在 \(v\) 所在射线上,分别伸长为两倍与缩短为一半;\(-v=(-2,-1)\) 与 \(v\) 等长反向;\(-2v=(-4,-2)\) 在此基础上再伸长。它们全部落在过原点、方向为 \(v\) 的直线上,而 \(\{\lambda v:\lambda\in\mathbb{R}\}\) 恰好就是这条直线(它是 \(\mathbb{R}^2\) 的一个一维"子空间",正式定义见 1.C)。