线性代数

第3章 线性变换

第3.1节 线性变换

我们将引入线性变换, 本书的剩余部分我们将研究的对象. 读者或许会发现阅读 (或重读) 附录里关于函数的部分是有用的, 因为我们将自由地使用其中的术语.

读者验证例子1, 2, 3, 5是线性变换是没有难度的. 当我们了解更多关于线性变换的东西时, 例子也会随之得到扩展.

注意到以下事实是重要的. 如果$T$是一个从$V$到$W$的线性变换, 那么$T(0)=0$. 人们可以从定义中看出来, 因为 $$T(0)=T(0+0)=T(0)+T(0)\text{.}$$ 这点对于线性代数的初学者而言有时令人迷惑, 因为他可能已经接触过术语"线性函数"一个稍微有点不同的用法. 扼要的注记应该能够扫清这种迷惑. 设$V$是向量空间${ℝ}^1$, 那么一个从$V$到$V$的线性变换是一种特定的实数轴$ℝ$上的实值函数. 在一个微积分课程中, 人们可能会将图像是直线的函数称为线性的. 一个从${ℝ}^1$到${ℝ}^1$的线性变换, 根据我们的定义, 将会是一个从$ℝ$到$ℝ$的函数, 其图像是经过原点的直线.

不仅是$T(0)=0$, 让我们指出一般的线性变换$T$的另一个性质. 这样的线性变换"保持"线性组合, 也就是说, 如果${\alpha }_1,\dots ,{\alpha }_n$是$V$中的向量, $c_1,\dots ,c_n$是标量, 那么 $$T(c_1{\alpha }_1+\cdots +c_n{\alpha }_n)=c_1(T{\alpha }_1)+\cdots +c_n(T{\alpha }_n)$$ 这可由定义直接推得, 例如 $$\begin{array}{rcl}T(c_1{\alpha }_1+c_2{\alpha }_2)& =& c_1(T{\alpha }_1)+T(c_2{\alpha }_2)\\ & =& c_1(T{\alpha }_1)+c_2(T{\alpha }_2)\end{array}$$

定理1是相当初等的. 然而, 它是如此基本以至于我们形式化地陈述了该定理. 函数的概念是非常一般的. 如果$V$和$W$是(非零的)向量空间, 那么从$V$到$W$的函数存在相当多样的可能性. 定理1强调了线性函数是极其特殊的.

如果$T$是一个从$V$到$W$的线性变换, 那么$T$的像不仅是$W$的子集, 而且是$W$的子空间. 令$R_T$是$T$的像, 即满足存在某个$V$中$\alpha$使得$\beta =T\alpha$的所有$W$中向量$\beta$构成的集合. 令${\beta }_1$和${\beta }_2$是$R_T$的元素, 令$c$是一个标量. 存在$V$中向量${\alpha }_1$和${\alpha }_2$满足$T{\alpha }_1={\beta }_1$和$T{\alpha }_2={\beta }_2$. 既然$T$是线性的, 那么 $$\begin{array}{rcl}T(c{\alpha }_1+{\alpha }_2)& =& cT{\alpha }_1+T{\alpha }_2\\ & =& c{\beta }_1+{\beta }_2\end{array}$$ 这表明$c{\beta }_1+{\beta }_2$也在$R_T$之中.

另一个与线性变换$T$相关的有趣子空间是由所有满足$T\alpha =0$的$V$中的向量$\alpha$构成的集合$N$. 它是$V$的一个子空间, 因为

1. $T(0)=0$, 于是$N$非空;
2. 如果$T{\alpha }_1=T{\alpha }_2=0$, 那么 $$\begin{array}{rcl}T(c{\alpha }_1+{\alpha }_2)& =& cT{\alpha }_1+T{\alpha }_2\\ & =& c0+0\\ & =& 0\end{array}$$ 于是$c{\beta }_1+{\beta }_2$也在$N$之中.

以下是线性代数中最重要的结果之一.

刚刚我们给出的对于定理3的证明依赖于和线性方程组有关的显式计算. 实际上存在一个不依赖于这样的计算的概念性证明. 我们将在第3.7节给出这个证明.

第3.2节 线性变换的代数

在研究从$V$到$W$的线性变换时, 这些变换的集合继承了自然的向量空间结构具有根本的重要性. 从空间$V$到自身的线性变换的集合甚至有着更多的代数结构, 因为通常的函数复合提供了这样的变换的"乘法". 我们将在本节探索这些想法.

或许我们应该提及另一种看待这个定理的方式. 如果我们如果上面那样定义和与标量积, 那么所有从$V$到$W$的函数构成了一个域$F$上的向量空间. 这与$V$是向量空间无关, $V$是一个非空集合足矣. 当$V$是向量空间的时候我们可以定义从$V$到$W$的线性变换, 那么定理4告诉我们这些变换构成了从$V$到$W$的所有函数构成的空间的一个子空间.

我们将从$V$到$W$的线性变换的空间记作$L(V,W)$. 我们提醒读者只有当$V$和$W$是定义于同一个域上的向量空间时$L(V,W)$才有定义.

接下来, 我们将主要关注从一个向量空间到自身的线性变换. 鉴于我们经常得说"$T$是一个从$V$到$V$的线性变换", 以后我们将说"$T$是$V$上的一个线性算子".

在定理6的情况下, 当$V=W=Z$时, 以至于$U$和$T$都是空间$V$上的线性算子, 那么其复合$UT$也是一个$V$上的线性算子. 因此, 空间$L(V,V)$有一个乘法定义于其上, 即复合. 当然算子$TU$也是有定义的, 不过读者应该注意一般$UT\ne TU$, 即$UT-TU\ne 0$. 我们还应该特别注意如果$T$是一个$V$上的线性算子, 那么我们可以将$T$和$T$复合. 我们将使用记号$T^2=TT$, 而一般地, 对于$n=1,2,3,\dots$, $T^n=T\cdots T$($n$个$T$相乘). 我们定义$T^0=I$, 如果$T\ne 0$. [译注: $T=0$时定义$T^0=I$也是合理且必要的.]

这个引理的内容和定理5的一部分告诉我们向量空间$L(V,V)$和复合运算构成了一个叫做含幺元的线性代数的结构. 我们将在第4章讨论这个东西. [译注: 其实在一般的代数学书籍里这种结构就叫代数.]

即便我们定义的$L(V,V)$上的乘法并不交换, 其与$L(V,V)$的向量空间运算有着很好的联系.

在我们对于线性变换的代数运算的讨论中, 我们还没有说任何与可逆性相关的东西. 我们所特别关心的问题之一是, 对于向量空间$V$上什么样的线性算子$T$存在线性算子$T^{-1}$满足$T{T}^{-1}=T^{-1}T=I$? [译注: 读者应该将这里的$T^{-1}$当作一个整体, 而不是$T$的逆, 因为还没有定义逆运算.]

从$V$到$W$的函数称为可逆的, 如果存在一个从$W$到$V$的函数$U$满足$UT$是$V$上的恒等函数而$TU$是$W$上的恒等函数. 如果$T$是可逆的, 那么函数$U$是唯一的, 我们将其记作$T^{-1}$. (见附录.) 而且, $T$可逆当且仅当

1. $T$是一一的, 即$T\alpha =T\beta$可以推出$\alpha =\beta$;
2. $T$是映上的, 即$T$的像是(整个的)$W$.

[译注: 一一和映上是过时的术语, 之后我们将用单射和满射.]

设我们有一个从$V$到$W$的可逆的线性变换$T$和一个从$W$到$Z$的可逆的线性变换$U$, 那么$UT$是可逆的并且${(UT)}^{-1}=T^{-1}{U}^{-1}$. 这个结论并不需要线性性质, 也不需要分开检验$UT$是单射和满射. 所有需要做的事情只是验证$T^{-1}{U}^{-1}$既是$UT$的左逆也是$UT$的右逆.

如果$T$是线性的, 那么$T(\alpha -\beta )=T\alpha -T\beta$. 因此, $T\alpha =T\beta$当且仅当$T(\alpha -\beta )=0$. 这极大地简化了对于$T$是否为单射的验证. 让我们称一个线性变换是非奇异的, 如果$T\gamma =0$可以推出$\gamma =0$, 即$T$的零空间是$\{0\}$. 显然, $T$是单射当且仅当$T$非奇异. 这个评注的一个扩展是非奇异的线性变换就是那些保持线性无关的线性变换.

在例子11之中我们看到一个线性变换可能是非奇异的但不是满射, 或者可能是满射但不是非奇异的. 然而, 上面这个例子为我们刻画了一种情形, 其中例子11的这种事情不可能发生.

我们提醒读者一下, 除非有限维和$\dim V=\dim W$的条件都满足, 否则就不要应用定理9. 在定理9的假设下, 条件i, ii, iii还等价于以下陈述.

4. 如果$\{{\alpha }_1,\dots ,{\alpha }_n\}$是$V$的一个基, 那么$\{T{\alpha }_1,\dots ,T{\alpha }_n\}$是$W$的一个基.
5. 存在$V$的某个基$\{{\alpha }_1,\dots ,{\alpha }_n\}$使得$\{T{\alpha }_1,\dots ,T{\alpha }_n\}$是$W$的一个基.

我们将给出一个这五个条件等价的证明, 它不同于之前给出的三个条件等价的证明.

i推出ii. 如果$T$是可逆的, $T$当然是非奇异的. ii推出iii. 设$T$是非奇异的. 令$\{{\alpha }_1,\dots ,{\alpha }_n\}$是$V$的一个基, 那么根据定理8, $\{T{\alpha }_1,\dots ,T{\alpha }_n\}$是$W$的一个线性无关集合. 而且, 因为$W$的维数也是$n$, 所以这个集合也构成了$W$的一个基. 现在令$\beta$是$W$任意的向量, 那么存在标量$c_1,\dots ,c_n$满足 $$\begin{array}{rcl}\beta & =& c_1(T{\alpha }_1)+\cdots +c_n(T{\alpha }_n)\\ & =& T(c_1{\alpha }_1+\cdots +c_n{\alpha }_n)\end{array}$$ 这表明$\beta$在$T$的像之中. iii推出iv. 现在我们假定$T$是满射. 如果$\{{\alpha }_1,\dots ,{\alpha }_n\}$是$V$任意的基, 那么$\{T{\alpha }_1,\dots ,T{\alpha }_n\}$可以张成$T$的像, 根据假设也就是整个$W$. 既然$W$的维数是$n$, 那么这$n$个向量必然是线性无关的, 也就是说构成了$W$的一个基. iv推出v. 这不需要证明. v推出i. 设存在$V$的某个基满足$\{T{\alpha }_1,\dots ,T{\alpha }_n\}$是$W$的一个基. 既然$T{\alpha }_i$可以张成$W$, 那么显然$T$的像是整个$W$. 如果$\alpha =c_1{\alpha }_1+\cdots +c_n{\alpha }_n$在$T$的零空间之中, 那么 $$T(c_1{\alpha }_1+\cdots +c_n{\alpha }_n)=0$$ 或者 $$c_1(T{\alpha }_1)+\cdots +c_n(T{\alpha }_n)=0$$ 既然$T{\alpha }_i$是线性无关的, 那么每个$c_i=0$, 因此$\alpha =0$. 我们已经证明了$T$的像是$W$和$T$是非奇异的, 所以$T$是可逆的.

一个空间$V$上的可逆线性算子, 连带着复合运算, 提供了一个代数中被称为"群"的例子. 尽管我们没有时间细致地讨论群, 但是我们至少可以给出群的定义.

我们已经证明了复合$(U,T)\mapsto UT$联系空间$V$上的每对可逆线性算子以另一个$V$上的可逆线性算子. 复合是一个结合运算. 恒等算子$I$对于每个$T$有$IT=TI=T$. 对于可逆的$T$, (根据定理7)存在一个可逆的线性算子$T^{-1}$满足$T{T}^{-1}=T^{-1}T=I$. 因此, $V$上的可逆线性算子的集合, 连带着复合运算, 构成了一个群. 以矩阵乘法作为运算的$n\times n$可逆矩阵的集合是另一个群的例子. 一个群是交换的, 如果它满足对于每个$x$和$y$有$xy=yx$. 以上两个我们给出的例子一般不是交换群. 人们经常将交换群的运算写成$(x,y)\mapsto x+y$而不是$(x,y)\mapsto xy$, 并用符号$0$表示"恒元"$e$. 向量空间的向量的集合, 连带着向量加法, 是一个交换群. 一个域可以被描述为一个带有加法和乘法运算的集合, 其在加法下是一个交换群, 而非零元素在乘法下也构成了一个交换群, 并且分配律$x(y+z)=xy+xz$成立.

第3.3节 同构

如果$V$和$W$是域$F$上的向量空间, 那么任何从$V$到$W$的双射的线性变换$T$都被称为从$V$到$W$的同构. 如果存在从$V$到$W$的同构, 那么就称$V$同构于$W$. [译注: 更直接和正确的说法其实是可逆而不是双射, 不过在向量空间的情况下这二者是等价的.]

注意到$V$平凡地同构于$V$, 恒等算子是一个从$V$到$V$的同构. 并且, 如果$V$通过$T$同构于$W$, 那么$W$也同构于$V$, 因为$T^{-1}$是一个从$W$到$V$的同构. 读者应该很容易验证如果$V$同构于$W$且$W$同构于$Z$, 那么$V$同构于$Z$. 简而言之, 同构是向量空间的类上的等价关系. [译注: 这里的用词是class而不是set, 因为所有的向量空间的确不构成一个集合.] 当存在一个从$V$到$W$的同构时, 我们有时也说$V$和$W$是同构的, 而不说$V$同构于$W$. 鉴于$V$同构于$W$当且仅当$W$同构于$V$, 这不会引起歧义.

出于许多目的我们可以将同构的向量空间视为"相同的", 尽管空间中的向量和运算可能是相当不同的. 我们目前不会详细讨论这个想法, 但将在我们对于向量空间的研究中积累对于同构的理解以及同构空间是"相同的"这个感觉.

我们将作出一些简要的评注. 设$T$是一个从$V$到$W$的同构. 如果$S$是$V$的一个子集, 那么定理8告诉我们$S$是线性无关的当且仅当集合$T(S)$在$W$中是线性无关的. 因此, 在判断$S$是否线性无关时, 检视$S$还是$T(S)$是无关紧要的. 从中我们可以看出, 同构是"维数保持的", 也就是说对于$V$任意的有限维子空间, 其在$T$下的像有着相同的维数. 现在我们给出这个想法的一个非常简单的刻画. 设$A$是域$F$上的一个$m\times n$矩阵, 实际上我们给过两种对于矩阵$A$的解空间的定义. 第一种是$F^n$中所有满足线性方程组$AX=0$的每个方程的$n$元组$(x_1,\dots ,x_n)$构成的集合. 第二种是所有满足$AX=0$的$n\times 1$列矩阵$X$构成的集合. 第一种解空间是$F^n$的子空间, 第二种解空间是$F^{n\times 1}$的子空间. 实际上$F^n$和$F^{n\times 1}$之间有一个显见的同构, 即 $$(x_1,\dots ,x_n)\mapsto \left[\begin{array}{c}{x}_1\\ ⋮\\ x_n\end{array}\right]\text{.}$$ 在这个同构下, $A$的第一种解空间被映射至第二种解空间. 这两个空间有着相同的维数, 于是在证明关于解空间的维数的定理时, 选择那个空间来讨论是无关紧要的. 实际上, 读者或许并不会产生一点犹豫, 如果我们选择将$F^n$和$F^{n\times 1}$视为等同的. 当方便的时候, 我们就会这么做, 而不方便的时候, 我们就不这么做.

第3.4节 通过矩阵表示变换

令$V$是域$F$上的$n$维向量空间, 令$W$是域$F$上的$m$维向量空间. 令$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$是$V$的一个有序基, 令${𝔅}^{\prime }=\{{\beta }_1,\dots ,{\beta }_m\}$是$W$的一个有序基. 如果$T$是任意的从$V$到$W$的线性变换, 那么$T$由其施加于向量${\alpha }_j$的作用决定. 每个向量$T{\alpha }_j$皆可唯一地表示为${\beta }_i$的线性组合 $$T{\alpha }_j=\sum _{i=1}^m{A}_{i,j}{\beta }_i$$ 其中$A_{1,j},\dots ,A_{m,j}$是$T{\alpha }_j$在有序基${𝔅}^{\prime }$下的坐标. 于是, 变换$T$可由$mn$个标量$A_{i,j}$决定. 由$A(i,j)=A_{i,j}$定义的$m\times n$矩阵$A$被称为$T$相对于有序基$𝔅$和${𝔅}^{\prime }$的矩阵. 我们即时的任务在于显式地理解矩阵$A$是如何决定线性变换$T$的.

如果$\alpha =x_1{\alpha }_1+\cdots +x_n{\alpha }_n$是$V$中的一个向量, 那么 $$\begin{array}{rcl}T\alpha & =& T\left(\sum _{j=1}^n{x}_j{\alpha }_j\right)\\ & =& \sum _{j=1}^n{x}_j(T{\alpha }_j)\\ & =& \sum _{j=1}^n{x}_j\sum _{i=1}^m{A}_{i,j}{\beta }_i\\ & =& \sum _{i=1}^m\left(\sum _{j=1}^n{A}_{i,j}{x}_j\right){\beta }_i\end{array}$$ 如果$X$是$\alpha$在有序基$𝔅$下的坐标矩阵, 那么以上的计算表明$AX$是向量$T\alpha$在有序基${𝔅}^{\prime }$下的坐标矩阵, 因为标量 $$\sum _{j=1}^n{A}_{i,j}{x}_j$$ 是列矩阵$AX$第$i$行的元素. 让我们也观察到如果$A$是域$F$上任意的$m\times n$矩阵, 那么 $$T\left(\sum _{j=1}^n{x}_j{\alpha }_j\right)=\sum _{i=1}^m\left(\sum _{j=1}^n{A}_{i,j}{x}_j\right){\beta }_i$$ 定义了一个从$V$到$W$的线性变换$T$, 并且其相对于$𝔅$和${𝔅}^{\prime }$的矩阵是$A$. 我们形式地总结如下:

定理11中与$T$相关联着的矩阵$A$被称为$T$相对于有序基$𝔅$和${𝔅}^{\prime }$的矩阵. 注意到式子$T{\alpha }_j=\sum _{i=1}^m{A}_{i,j}{\beta }_i$是说矩阵$A$的列$A_1,\dots ,A_n$由 $$A_j={[T{\alpha }_j]}_{{𝔅}^{\prime }},j=1,\dots ,n$$ 给出. 如果$U$是另一个从$V$到$W$的线性变换, 并且$B=[B_1,\dots ,B_n]$是$U$相对于有序基$𝔅$和${𝔅}^{\prime }$的矩阵, 那么$cA+B$是$cT+U$相对于有序基$𝔅$和${𝔅}^{\prime }$矩阵. 这是显然的, 因为 $$\begin{array}{rcl}c{A}_j+B_j& =& c{[T{\alpha }_j]}_{{𝔅}^{\prime }}+{[U{\alpha }_j]}_{{𝔅}^{\prime }}\\ & =& {[cT{\alpha }_j+U{\alpha }_j]}_{{𝔅}^{\prime }}\\ & =& {[(cT+U){\alpha }_j]}_{{𝔅}^{\prime }}\end{array}$$

我们将特别关心从一个空间到自身的线性变换的矩阵表示, 也就是线性算子的矩阵表示. 在这种情况下使用相同的基是方便的, 即取$𝔅={𝔅}^{\prime }$. 我们将称这个表示矩阵为$T$相对于有序基$𝔅$的矩阵. 因为这个概念是如此重要, 以至于我们将重复这个定义. 如果$T$是有限维向量空间$V$上的一个线性算子而$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$是$V$的一个有序基, 那么$T$相对于$𝔅$的矩阵 (或者说, $T$在有序基$𝔅$下的矩阵) 是一个$n\times n$矩阵$A$, 其元素$A_{i,j}$由式子 $$T{\alpha }_j=\sum _{i=1}^n{A}_{i,j}{\alpha }_i,j=1,\dots ,n$$ 定义. 读者必须记住这个表示$T$的矩阵依赖于有序基$𝔅$, 而$V$的每个有序基下都有一个$T$的表示矩阵. (如果是从一个空间$V$到另一个空间$W$的线性变换, 那就是依赖于两个有序基, 一个是$V$的有序基, 另一个是$W$的有序基.) 为了不忘记这个依赖关系, 我们将使用记号 $${[T]}_{𝔅}$$ 表示线性算子$T$在有序基$𝔅$下的矩阵. 这个矩阵以及相关的有序基刻画$T$的方式在于对于每个$V$中的$\alpha$有 $${[T\alpha ]}_{𝔅}={[T]}_{𝔅}{[\alpha ]}_{𝔅}\text{.}$$

我们已经见过把变换相加时表示矩阵会怎么变化了, 即把矩阵相加. 现在我们想问把变换复合起来时会发生些什么. 更准确地说, 令$V,W,Z$是域$F$上相应维数为$n,m,p$的向量空间. 令$T$是一个从$V$到$W$的线性变换, 令$U$是一个从$W$到$Z$的线性变换. 设$V,W,Z$相应的有序基分别为 $$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\},{𝔅}^{\prime }=\{{\beta }_1,\dots ,{\beta }_m\},{𝔅}^{″}=\{{\gamma }_1,\dots ,{\gamma }_p\}\text{.}$$ 令$A$是$T$相对于$𝔅$和${𝔅}^{\prime }$的矩阵, 令$B$是$U$相对于${𝔅}^{\prime }$和${𝔅}^{″}$的矩阵. 那么, 很容易看出来变换$UT$相对于$𝔅$和${𝔅}^{″}$的矩阵$C$就是$B$和$A$的积. 这是因为, 如果$\alpha$是$V$中任意的向量, 那么 $${[T\alpha ]}_{{𝔅}^{\prime }}=A{[\alpha ]}_{𝔅},{[U(T\alpha )]}_{{𝔅}^{″}}=B{[T\alpha ]}_{{𝔅}^{\prime }}$$ 于是 $${[(UT)(\alpha )]}_{{𝔅}^{″}}=(BA){[\alpha ]}_{𝔅}$$ 根据表示矩阵的定义和唯一性, 我们必有$C=BA$. 读者也可通过施行以下计算来看出这点. $$\begin{array}{rcl}(UT)({\alpha }_j)& =& U(T{\alpha }_j)\\ & =& U\left(\sum _{k=1}^m{A}_{k,j}{\beta }_k\right)\\ & =& \sum _{k=1}^m{A}_{k,j}(U{\beta }_k)\\ & =& \sum _{k=1}^m{A}_{k,j}\sum _{i=1}^p{B}_{i,k}{\gamma }_i\\ & =& \sum _{i=1}^p\left(\sum _{k=1}^m{B}_{i,k}{A}_{k,j}\right){\gamma }_i\end{array}$$ 于是我们必有 $$C_{i,j}=\sum _{k=1}^m{B}_{i,k}{A}_{k,j}\text{.}$$ 之前我们定义矩阵乘法的动机在于矩阵行上的操作. 这里我们看到线性变换的复合也提供了强烈的动机. 让我们形式化地总结一下这个结果.

注意到定理13给我们了一个矩阵乘法是结合运算的证明, 这个证明不需要计算, 并且独立于我们在第1章给出的证明. 我们还应该指出我们在例子10中证明了定理13的特殊情况. [译注: 原文是例子12, 疑似应该是例子10.]

如果$T$和$U$是空间$V$上的线性算子, 并且我们以单一的有序基$𝔅$表示这两个变换, 那么定理13呈现出特别简单的形式${[UT]}_{𝔅}={[U]}_{𝔅}{[T]}_{𝔅}$. 因此, 在这种情况下由$𝔅$所决定的算子和矩阵之间的对应不仅是向量空间的同构, 还保持乘法. 这个事实的一个简单推论是线性算子$T$可逆当且仅当矩阵${[T]}_{𝔅}$可逆. 这是因为恒等算子$I$在任意的有序基下都由恒等矩阵表示, 于是 $$UT=TU=I$$ 等价于 $${[U]}_{𝔅}{[T]}_{𝔅}={[T]}_{𝔅}{[U]}_{𝔅}=I\text{.}$$ 当然, $T$可逆时有 $${[T^{-1}]}_{𝔅}={[T]}_{𝔅}^{-1}\text{.}$$

现在我们想要探究当有序基改变时表示矩阵会怎样变化. 为了简单起见, 我们将只考虑空间$V$上的线性算子, 于是我们可以只使用一个有序基. 我们想问的特定问题如下. 令$T$是有限维向量空间$V$上的一个线性算子, 并令 $$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}\text{和}{𝔅}^{\prime }=\{{\alpha }_1^{\prime },\dots ,{\alpha }_n^{\prime }\}$$ 是$V$的两个有序基. 矩阵${[T]}_{𝔅}$和${[T]}_{{𝔅}^{\prime }}$之间有什么联系呢? 正如我们在第2章所观察到的那样, 存在一个唯一的$n\times n$(可逆)矩阵$P$满足对于每个$V$的向量$\alpha$有 $${[\alpha ]}_{𝔅}=P{[\alpha ]}_{{𝔅}^{\prime }}\text{.}$$ 这个矩阵即$P=[P_1,\dots ,P_n]$, 其中$P_j={[{\alpha }_j^{\prime }]}_{𝔅}$. 根据定义, $${[T\alpha ]}_{𝔅}={[T]}_{𝔅}{[\alpha ]}_{𝔅}\text{.}$$ 将坐标变换公式应用于$T\alpha$, 我们就得到 $${[T\alpha ]}_{𝔅}=P{[T\alpha ]}_{{𝔅}^{\prime }}\text{.}$$ 结合这三个式子, 我们有 $${[T]}_{𝔅}P{[\alpha ]}_{{𝔅}^{\prime }}=P{[T\alpha ]}_{{𝔅}^{\prime }}$$ 或是 $$P^{-1}{[T]}_{𝔅}P{[\alpha ]}_{{𝔅}^{\prime }}={[T\alpha ]}_{{𝔅}^{\prime }}$$ 因此就得到 $${[T]}_{{𝔅}^{\prime }}=P^{-1}{[T]}_{𝔅}P\text{.}$$ 这回答了我们的问题.

在形式化陈述这个结果之前, 让我们观察一下以下事实. 存在唯一的一个线性算子$U$将有序基$𝔅$映射成${𝔅}^{\prime }$, 其由 $$U{\alpha }_j={\alpha }_j^{\prime },j=1,\dots ,n$$ 定义. 这个算子$U$是可逆的, 因为它将$V$的一个基映射至$V$的另一个基. 上面的矩阵$P$恰是$U$在有序基$𝔅$下的表示, 因为$P$是由 $${\alpha }_j^{\prime }=\sum _{i=1}^n{P}_{i,j}{\alpha }_i$$ 定义的, 既然$U{\alpha }_j={\alpha }_j^{\prime }$, 这个式子也可以写成 $$U{\alpha }_j=\sum _{i=1}^n{P}_{i,j}{\alpha }_i$$ 于是$P={[U]}_{𝔅}$, 根据定义.

根据定理14, 我们知道: 如果$V$是一个域$F$上的$n$维向量空间而$𝔅$和${𝔅}^{\prime }$是$V$的两个有序基, 那么对于每个$V$上的线性算子$T$, 矩阵$B={[T]}_{{𝔅}^{\prime }}$相似于矩阵$A={[T]}_{𝔅}$. 我们也可以从另一个方向看待这个事情. 设$A$和$B$是域$F$上的$n\times n$矩阵, 令$𝔅$是$V$的一个有序基. 令$T$是$V$上的线性算子, 其在基$𝔅$下由$A$表示. 如果$B=P^{-1}AP$, 令${𝔅}^{\prime }$是经$P$由$𝔅$得到的$V$的有序基, 即 $${\alpha }_j^{\prime }=\sum _{i=1}^n{P}_{i,j}{\alpha }_i\text{,}$$ 那么$T$在有序基${𝔅}^{\prime }$下的矩阵就是$B$.

因此, 陈述$B$相似于$A$意味着在每个域$F$上的$n$维空间上, 矩阵$A$和$B$在两个(可能)不同的有序基下表示着相同的线性变换.

注意到每个$n\times n$矩阵$A$都相似于自身, 只需令$P=I$; 如果$B$相似于$A$, 那么$A$相似于$B$, 因为$B=P^{-1}AP$可以推出$A={(P^{-1})}^{-1}B{P}^{-1}$; 如果$B$相似于$A$而$C$相似于$B$, 那么$C$相似于$A$, 因为$B=P^{-1}AP$和$C=Q^{-1}BQ$可以推出$C={(PQ)}^{-1}A(PQ)$. 因此, 相似性是域$F$上的$n\times n$矩阵的集合上的一个等价关系. 读者还应该注意到唯一与恒等矩阵$I$相似的矩阵就是$I$本身, 唯一与零矩阵相似的矩阵就是零矩阵本身.

第3.5节 线性泛函

如果$V$是一个域$F$上的向量空间, 那么从$V$到标量域$F$的线性变换$f$也被称为$V$上的线性泛函. 如果我们从头开始, 那么这意味着$f$是一个从$V$到$F$的函数, 并且满足 $$f(c\alpha +\beta )=cf(\alpha )+f(\beta )$$ 对于所有$V$中的$\alpha$和$\beta$以及所有$F$中的标量$c$成立. 线性泛函这个概念的重要性在于它有助于组织和澄清关于子空间, 线性方程和坐标的讨论.

如果$V$是一个向量空间, 那么所有$V$上的线性泛函自然地构成了一个向量空间, 此即$L(V,F)$, 我们记作$V^{⁎}$并将其称为$V$的对偶空间: $$V^{⁎}=L(V,F)\text{.}$$

如果$V$是有限维的, 那么我们可以得到一个对于对偶空间$V^{⁎}$相当显式的描述. 从定理5我们知道了一件关于$V^{⁎}$的事情, 即 $$\dim V^{⁎}=\dim V\text{.}$$ 令$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$是$V$的一个基. 根据定理1, (对于每个$i$)存在唯一的$V$上的线性泛函$f_i$满足 $$f_i({\alpha }_j)={\delta }_{i,j}\text{.}$$ 用这种方法我们从$𝔅$得到了$n$个不同的$V$上的线性泛函$f_1,\dots ,f_n$. 这些泛函也是线性无关的, 因为若设 $$f=\sum _{i=1}^n{c}_i{f}_i$$ 那么 $$\begin{array}{rcl}f({\alpha }_j)& =& \sum _{i=1}^n{c}_i{f}_i({\alpha }_j)\\ & =& \sum _{i=1}^n{c}_i{\delta }_{i,j}\\ & =& c_j\end{array}$$ 特别地, 如果$f$是零泛函, 那么对于每个$j$有$f({\alpha }_j)=0$, 因此标量$c_j$都是$0$. 现在$f_1,\dots ,f_n$是$n$个线性无关的泛函, 而且我们知道$V^{⁎}$的维数是$n$, 那么${𝔅}^{⁎}=\{f_1,\dots ,f_n\}$必然是$V^{⁎}$的一个基, 其被称为$𝔅$的对偶基.

上面这个式子给我们提供了一种刻画对偶基的绝佳方式. 它是说, 如果$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$是$V$的一个有序基, 并且${𝔅}^{⁎}=\{f_1,\dots ,f_n\}$是其对偶基, 那么$f_i$就恰是那个赋予$V$中的向量$\alpha$相对于有序基$𝔅$的第$i$个坐标的函数. 因此, 我们也可以将$f_i$称为$𝔅$的坐标函数. 定理15实际上告诉了我们以下事实: 如果$f$在$V^{⁎}$中而令$f({\alpha }_i)=a_i$, 那么当 $$\alpha =x_1{\alpha }_1+\cdots +x_n{\alpha }_n$$ 时, 我们有 $$f(\alpha )=a_1{x}_1+\cdots +a_n{x}_n\text{.}$$ 换言之, 如果我们选定了$V$的一个有序基$𝔅$并描述$V$中的每个向量以其相对于$𝔅$的$n$元坐标组$(x_1,\dots ,x_n)$, 那么每个$V$上的线性泛函都具有$f(\alpha )=a_1{x}_1+\cdots +a_n{x}_n$的形式. 这是例子18的自然泛化, 其为$V=F^n$和$𝔅=\{{\epsilon }_1,\dots ,{\epsilon }_n\}$的特别情形.

现在让我们来讨论线性泛函和子空间之间的关系. 如果$f$是一个非零的线性泛函, 那么$f$的秩就是$1$, 因为其像是标量域的非零子空间, 必然是标量域本身. 如果潜在的空间$V$是有限维的, 那么秩加零化度定理 (定理2) 告诉我们零空间$N_f$的维数 $$\dim N_f=\dim V-1\text{.}$$

在一个$n$维空间中, 具有$n-1$维的子空间被称为超空间. 这样的空间有时也被称为超平面或者余维数为$1$的子空间. 每个超空间都是某个线性泛函的零空间吗? 答案很容易看出来是yes. 而且, 证明以下事实也并不更加困难. $n$维空间的每个$d$维子空间都是$(n-d)$个线性泛函的零空间之交. (下面的定理16)

读者应该很容易看出$S^0$是$V^{⁎}$的子空间, 不论$S$是否是$V$的子空间. 如果$S$仅包含零向量, 那么$S^0=V^{⁎}$. 如果$S=V$, 那么$S^0$是$V^{⁎}$的零子空间. (在$V$是有限维的情况下很容易看出来.)

接下来的一节我们将给出这两个推论的不同的证明. 第一个推论是说, 如果我们挑选了空间的某个有序基, 那么每个$k$维的子空间都可以由$(n-k)$个相对于基的坐标上的齐次线性条件刻画.

让我们从线性泛函的视角简要看看齐次线性方程组. 设我们有一个想要求解的齐次线性方程组 $$\{\begin{array}{ccccccc}{A}_{1,1}{x}_1& +& \cdots & +& A_{1,n}{x}_n& =& 0\\ ⋮& & & & ⋮& & \\ A_{m,1}{x}_1& +& \cdots & +& A_{m,n}{x}_n& =& 0\end{array}$$ 如果我们令$f_i,i=1,\dots ,m$是由 $$f_i(x_1,\dots ,x_n)=A_{i,1}{x}_1+\cdots +A_{i,n}{x}_n$$ 定义的$F^n$上的线性泛函, 那么其实我们就是在寻找一个$F^n$的子空间, 其由所有满足 $$f_i(\alpha )=0,i=1,\dots ,m$$ 的$\alpha$构成. 换言之, 我们在寻找被$f_1,\dots ,f_m$零化的子空间. 对于系数矩阵进行行规约为我们提供了找出这个子空间的系统方法. $n$元组$(A_{i,1},\dots ,A_{i,n})$给出了线性泛函$f_i$相对于与$F^n$的标准基对偶的基的坐标. 系数矩阵的行空间因此可被视为由$f_1,\dots ,f_m$张成的线性泛函的空间, 而解空间是被这个泛函的空间零化的子空间.

现在我们或许可以从"对偶"的角度看待线性方程组, 即给定$F^n$中的$m$个向量 $${\alpha }_i=(A_{i,1},\dots ,A_{i,n})$$ 我们希望寻找由这些向量张成的子空间的零化子. 既然$F^n$上一个典型的线性泛函具有形式 $$f(x_1,\dots ,x_n)=c_1{x}_1+\cdots +c_n{x}_n$$ 那么$f$在这个零化子之中的条件即 $$\sum _{j=1}^n{A}_{i,j}{c}_j=0,i=1,\dots ,m$$ 换言之, $(c_1,\dots ,c_n)$是线性方程组$AX=0$的一个解. 从此观点来看, 行规约为我们提供了一种系统性的方法来寻找由给定的$F^n$的有限子集张成的子空间的零化子.

第3.6节 二次对偶

上一节我们还有一个没有回答的问题, 即是否每个$V^{⁎}$的基都是某个$V$的基的对偶. 一种回答这个问题的方式是考虑$V^{⁎⁎}$, 即$V^{⁎}$的对偶空间.

如果$\alpha$是$V$中的一个向量, 那么$\alpha$导出了一个$V^{⁎}$上的线性泛函, 即 $$L_{\alpha }(f)=f(\alpha ),f\in V^{⁎}\text{.}$$ $L_{\alpha }$是线性的这一事实不过就是对于$V^{⁎}$中的线性泛函的定义的重述: $$\begin{array}{rcl}{L}_{\alpha }(cf+g)& =& (cf+g)(\alpha )\\ & =& (cf)(\alpha )+g(\alpha )\\ & =& cf(\alpha )+g(\alpha )\\ & =& c{L}_{\alpha }(f)+L_{\alpha }(g)\end{array}$$ 如果$V$是有限维的并且$\alpha \ne 0$, 那么$L_{\alpha }\ne 0$. 换言之, 存在线性泛函$f$满足$f(\alpha )\ne 0$. 证明非常简单, 在第3.5节已经给过了: 选择一个$V$的有序基$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$, 其中${\alpha }_1=\alpha$, 令$f$是赋予每个$V$中向量其在有序基$𝔅$下的坐标的第一分量的线性泛函. [译注: 换句话说, $f$即满足$f({\alpha }_1)=1$而$f({\alpha }_i)=0,2\le i\le n$的存在且唯一的那个线性泛函.]

在定理17的观点下, 我们通常将$\alpha$和$L_{\alpha }$视为等同的, 并称$V$"是"$V^{⁎}$的对偶空间或者说空间$V$和$V^{⁎}$自然地相互对偶. 上面的推论中, 我们描述了该定理是怎样可能有用的. 下面我们给出更进一步的刻画.

如果$E$是$V^{⁎}$的一个子集, 那么零化子$E^0$(从技术上说)是$V^{⁎⁎}$的一个子集. 如果我们选择如定理17那样将$V$和$V^{⁎⁎}$视为等同的, 那么$E^0$是一个$V$的一个子空间, 即所有满足对于每个$E$中的$f$有$f(\alpha )=0$的$V$中向量$\alpha$构成的集合. 在定理16的一个推论中我们注意到每个子空间$W$是由其零化子$W^0$决定的. 然而是怎样决定的呢? 答案是$W$是被所有$W^0$中的$f$零化的子空间 [译注: 这个也是定理16的推论], 即所有$W^0$中的$f$的零空间之交. 在我们现有的零化子的记号下, 这个定理可以被简单地陈述为: $W={(W^0)}^0$.

本节的结果对于任意的向量空间也是成立的. 然而, 证明就需要使用所谓的选择公理 (Axiom of Choice). 我们想避免被卷入对于这个公理的冗长讨论之中, 所以我们不会对于一般的向量空间处理零化子的结果. 然而, 有两个关于一般向量空间上的线性泛函的结果是如此基本, 以至于我们要涵盖它们.

令$V$是一个向量空间. 我们想要定义$V$中的超空间. 除非$V$是有限维的, 否则我们不能通过维数来定义超空间. 但是, 我们可以用以下的方式来表达一个空间$N$差一个维度就能填满$V$的想法:

1. $N$是$V$的一个真子空间;
2. 如果$W$是一个包含$N$的子空间, 那么要么$W=N$要么$W=V$.

条件1和2表达了$N$是一个真子空间并且没有更大的真子空间, 换言之, $N$是极大的真子空间.

第3.7节 线性变换的转置

设我们有两个域$F$上的向量空间$V$和$W$, 以及一个从$V$到$W$的线性变换$T$, 那么$T$按照以下方式导出了一个从$W^{⁎}$到$V^{⁎}$的线性变换. 设$g$是$W$上的一个线性泛函, 对于每个$V$中的$\alpha$, 令 $$f(\alpha )=g(T\alpha )$$ 那么这就定义了一个从$V$到$F$的函数$f$, 即$T$ (一个从$V$到$W$的函数) 与$g$ (一个从$W$到$F$的函数) 相复合. 既然$T$和$g$都是线性的, 那么定理6告诉我们$f$也是线性的, 即$f$是一个$V$上的线性泛函. 因此, $T$给我们提供了一个规则$T^t$, 其为每个$W$上的线性泛函$g$赋一个$V$上的线性泛函$f=T^{t}g$, 如上面的式子所定义的那样. 读者也应该注意到$T^t$实际上是一个从$W^{⁎}$到$V^{⁎}$的线性变换, 因为如果$g_1$和$g_2$在$W^{⁎}$中而$c$是一个标量, 那么 $$\begin{array}{rcl}[T^t(c{g}_1+g_2)](\alpha )& =& (c{g}_1+g_2)(T\alpha )\\ & =& c{g}_1(T\alpha )+g_2(T\alpha )\\ & =& c(T^t{g}_1)(\alpha )+(T^t{g}_2)(\alpha )\end{array}$$ 于是$T^t(c{g}_1+g_2)=c{T}^t{g}_1+T^t{g}_2$. 让我们总结一下.

我们将称$T^t$为$T$的转置. 这个变换$T^t$也常被称作$T$的伴随. 然而, 我们不会使用这个术语.

定理23是说如果$T$是一个从$V$到$W$的线性变换, 其在某对有序基下的矩阵是$A$, 那么转置变换$T^t$在与之对偶的一对有序基下由转置矩阵$A^t$表示.

现在我们知道如果$A$是一个域$F$的$m\times n$矩阵而$T$是一个按照以上方式定义的从$F^n$到$F^m$的线性变换, 那么 $$\mathrm{rank}(T)=\mathrm{row-rank}(A)=\mathrm{column-rank}(A)\text{.}$$ 我们将简单地称这个数字为$A$的秩.