线性代数

第6章 初等标准形式

第6.1节 引论

之前我们已经提过我们的主要目的在于研究有限维向量空间上的线性变换. 到目前为止, 我们已经见过了许多线性变换的特殊例子, 并且证明了一些关于一般线性变换的定理. 在有限维的情形我们利用有序基通过矩阵来表示这样的变换, 这种表示增添了我们对于其行为的直觉. 我们探索了向量空间$L(V,W)$, 其由从一个向量空间到另一个的线性变换构成. 我们也探索了$L(V,V)$, 其由从一个向量空间到自身的线性变换构成.

在接下来的两章中, 我们将主要关心线性算子. 我们的流程是选取一个有限维向量空间$V$上的单独的一个线性算子$T$, 将它拆下来, 看看什么使其运转. 在这早期阶段, 将我们的目标以矩阵的语言表述是最为简单的: 给定线性算子$T$, 找出$V$的一个有序基使得$T$的矩阵呈现特别简单的形式.

现在对于我们心中所想作一个基本的刻画. 或许最简单的矩阵, 除了恒等矩阵之外, 就是对角矩阵了: $$D=\left[\begin{array}{ccccc}{c}_1& 0& 0& \cdots & 0\\ 0& c_2& 0& \cdots & 0\\ 0& 0& c_3& \cdots & 0\\ ⋮& ⋮& ⋮& & ⋮\\ 0& 0& 0& \cdots & c_n\end{array}\right]$$ 令$T$是一个$n$维向量空间$V$上的线性算子. 如果我们能够找到$V$的一个有序基$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$使得$T$由上面的对角矩阵$D$表示, 那么我们能够获得和$T$有关的相当信息. 例如, 和$T$有关的简单数字, 比如说$T$和秩或者$T$的行列式, 看一眼矩阵$D$就能出来. 我们可以显式描述$T$的像和零空间. 既然${[T]}_{𝔅}=D$当且仅当 $$T{\alpha }_k=c_k{\alpha }_k,k=1,\dots ,n$$ 那么像就是由那些$c_k\ne 0$的${\alpha }_k$张成的子空间, 零空间就是由剩下来的${\alpha }_k$张成的. 似乎可以这样说, 如果我们知道了一个基$𝔅$和一个对角矩阵$D$满足${[T]}_{𝔅}=D$, 那么我们就能轻易回答一切与$T$有关的问题.

是否每个线性算子都可以在某个有序基下表示为对角矩阵呢? 如果不是的话, 那么什么样的算子$T$下这样的基存在呢? 如果存在这样的基的话, 那么我们又该怎么找到它呢? 如果这样的基不存在的话, 那么可以表示$T$的最简单的矩阵类型是什么样的呢? 这些是我们将在本章 (和下一章) 解决的问题. 随着我们理解到其中的困难, 一些问题的形式也会变得更加复杂.

第6.2节 特征值

前一节的评注为我们提供了尝试分析一般线性算子$T$的起点. 之前的线索暗示着我们应该研究这样的向量, 其由$T$送至自身的标量倍数.

特征值 (characteristic value) 也被称为特征根 (characteristic root), 隐式根 (latent root), 特征值 (eigenvalue), 特征值 (proper value) 或者谱值 (spectral value). 本书我们将只使用"特征值 (characteristic value)"这个名字.

如果$T$是任意的线性算子而$c$是任意的标量, 所有满足$T\alpha =c\alpha$的向量$\alpha$的集合是$V$的子空间, 实际上它就是线性变换$(T-cI)$的零空间. 我们称$c$是$T$的特征值, 如果该子空间异于零子空间, 即$(T-cI)$不是单射的. 在$V$是有限维的情况下, $(T-cI)$不是单射恰当其行列式等于零.

行列式判则iii是非常重要的, 因为它告诉我们从哪里寻找$T$的特征值. 既然$\det (T-cI)$是对于变量$c$的$n$次多项式, 那么我们所求的特征值就是该多项式的根. 让我们仔细解释这个想法.

如果$𝔅$是$V$的基并且$A={[T]}_{𝔅}$, 那么$(T-cI)$可逆当且仅当矩阵$(A-cI)$可逆. 据此, 我们有如下定义.

既然$c$是$A$的特征值当且仅当$\det (A-cI)=0$或者等价地当且仅当$\det (cI-A)=0$, 我们构造以多项式为元素的矩阵$(xI-A)$并考虑多项式$f=\det (xI-A)$. 显然$A$在$F$中的特征值不过就是$F$中满足$f(c)=0$的标量$c$. 出于这样的原因$f$被称为$A$的特征多项式. 注意到$f$是一个次数恰为$n$的首项系数为一的多项式是重要的. 这很容易从基于元素的矩阵的行列式公式中看出来.

这条引理允许我们将算子$T$的特征多项式定义为任意在某个$V$的有序基下表示$T$的$n\times n$矩阵的特征多项式. 正如矩阵一样, $T$特征值就是$T$的特征多项式的根. 特别地, 这表明$T$不可能拥有多于$n$个不同的特征值. 我们也应该指出$T$可能没有任何特征值.

为什么要叫这个名字应该是很显然的, 因为如果存在$V$的一个有序基$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$满足每个${\alpha }_i$都是$T$的特征向量, 那么$T$在有序基$𝔅$下的矩阵是对角的. 如果$T{\alpha }_i=c_i{\alpha }_i$, 那么 $${[T]}_{𝔅}=\left[\begin{array}{cccc}{c}_1& 0& \cdots & 0\\ 0& c_2& \cdots & 0\\ ⋮& ⋮& & ⋮\\ 0& 0& \cdots & c_n\end{array}\right]$$ 我们当然并不需要标量$c_1,\dots ,c_n$互异. 实际上, 它们可以是相同的标量 (当$T$是恒等算子的标量倍数时).

我们也可以将$T$可对角化定义为存在$T$的一集特征向量可以张成$V$. 这与之前的定义只是表面上不同而已, 因为我们可以从任意能够张成$V$的一集向量中挑选出一个基.

对于例子1和2我们故意挑选了在${ℝ}^n$上不可对角化的线性算子$T$. 在例子1中, ${ℝ}^2$上的这个线性算子之所以是不可逆的, 是因为它没有特征值. 在例子2中, 线性算子$T$的确有特征值. 实际上, $T$的特征多项式可以在实数域上被分解完全: $f=(x-1){(x-2)}^2$. 然而, $T$并非可对角化的. 在$T$的两个特征值下每个特征空间都只是一维的, 因此我们并不能构造出一个全由$T$的特征向量构成的${ℝ}^3$的基.

设$T$是一个可对角化的线性算子. 令$c_1,\dots ,c_k$是$T$互异的特征值. 那么存在一个有序基$𝔅$满足其下$T$由一个以标量$c_i$为对角元素的对角矩阵表示, 每个标量均重复特定的次数. 如果$c_i$重复了$d_i$次, 那么(我们可以重新排列有序基的向量顺序使得)该矩阵具有如下分块形式 $${[T]}_{𝔅}=\left[\begin{array}{cccc}{c}_1{I}_1& 0& \cdots & 0\\ 0& c_2{I}_2& \cdots & 0\\ ⋮& ⋮& & ⋮\\ 0& 0& \cdots & c_k{I}_k\end{array}\right]$$ 其中$I_j$是$d_j\times d_j$的恒等矩阵. 从中我们看出两件事. 首先, $T$的特征多项式是(可能重复的)线性因子之积: $$f={(x-c_1)}^{d_1}\cdots {(x-c_k)}^{d_k}\text{.}$$ 如果标量域$F$是代数闭域, 例如复数域, 那么每个$F$上的多项式都可以被这么分解 (见第4.5节). 然而, 如果$F$不是代数闭域, 当我们说$T$的特征多项式有这样一种分解时, 我们是在声明$T$的一个特别性质. 第二件能看出来的事情是$d_i$ ($c_i$作为$f$的重根次数) 等于与特征值$c_i$相关的特征空间的维数. 这是因为对角矩阵的零化度等于其主对角线上零的数目, 而矩阵${[T-c_{i}I]}_{𝔅}$在其主对角线上拥有$d_i$个零. 这个特征空间的维数与特征值作为$f$的根的重数之间的关系最初看上去并不令人兴奋. 然而, 它为我们提供了一种更简单的判断给定算子是否可对角化的方法.

定理2的矩阵类比可以按照如下方式陈述. 令$A$是一个元素来源于域$F$的$n\times n$矩阵, 令$c_1,\dots ,c_k$是$A$在$F$中不同的特征值. 对于每个$i$, 令$W_i$是满足 $$(A-c_{i}I)X=0$$ 的列矩阵$X$的空间, 当然$X$的元素应该来源于$F$, 令${𝔅}_i$是$W_i$的一个有序基. 我们将基$({𝔅}_1,\dots ,{𝔅}_k)$连在一起以构成了一个矩阵$P$的列的序列: $$P=[P_1,P_2,\dots ]=({𝔅}_1,\dots ,{𝔅}_k)\text{.}$$ 矩阵$A$在域$F$上能够相似于一个对角矩阵当且仅当$P$是一个方阵. 当$P$是方阵的时候, $P$可逆并且$P^{-1}AP$是对角矩阵.

第6.3节 零化多项式

在尝试分析一个线性算子$T$的时候, 知道能够零化$T$的多项式类是很有用的. 更确切地说, 设$T$是域$F$上的向量空间$V$上的线性算子. 如果$p$是域$F$上的多项式, 那么$p(T)$也是$V$上的线性算子. 如果$q$是另一个域$F$上的多项式, 那么 $$(p+q)(T)=p(T)+q(T),(pq)(T)=p(T)q(T)\text{.}$$ 因此, 零化$T$的多项式$p$ (意即$p(T)=0$) 的集合是多项式代数$F[x]$的理想. 它可能是零理想, 也就是说$T$可能不由任何非零多项式零化. 但是, 如果$V$是有限维的, 这种情况是不可能发生的.

设$T$是一个$n$维空间$V$上的线性算子. 看看$T$的前$(n^2+1)$次幂: $$I,T,T^2,\dots ,T^{n^2}\text{.}$$ 这是$L(V,V)$中$n^2+1$个算子的序列, $L(V,V)$即$V$上的线性算子的空间. 空间$L(V,V)$是$n^2$维的, 因此这$n^2+1$个算子的序列必然是线性相关的, 也就是说存在不是全零的标量$c_i$满足 $$c_{0}I+c_{1}T+\cdots +c_{n^2}{T}^{n^2}=0\text{.}$$ 于是, 零化$T$的多项式理想中有一个非零的多项式, 其次数小于等于$n^2$.

根据第4章的定理7, 每个非零的多项式理想都可由某个首项系数为一的多项式生成. 因此, 存在一个与$T$相关的首项系数为一的多项式$p$满足以下性质: 如果$f$是一个域$F$上的多项式, 那么$f(T)=0$当且仅当$f=pg$, 其中$g$是某个$F$上的多项式.

"极小多项式"这个名字来源于这个多项式理想的生成元可由理想中次数最小的首项系数为一多项式刻画. 这意味着线性算子$T$的极小多项式$p$由以下三条性质唯一确定:

1. $p$是标量域$F$上的首项系数为一的多项式.
2. $p(T)=0$.
3. 没有能够零化$T$的域$F$上的多项式次数比$p$低.

如果$A$是域$F$上的一个$n\times n$矩阵, 我们可以按照类似的方式定义$A$的极小多项式, 即域$F$上零化$A$的多项式理想的那个唯一的首项系数为一的生成元. 如果$T$在某个有序基下由矩阵$A$表示, 那么$T$和$A$有着相同的极小多项式. 这是因为在这个基下$f(T)$由矩阵$f(A)$表示, 于是$f(T)=0$当且仅当$f(A)=0$.

上面关于算子和矩阵的评注也可说明相似矩阵拥有相同的极小多项式. 从定义看这个事实也是显然的, 因为对于每个多项式$f$有 $$f(P^{-1}AP)=P^{-1}f(A)P\text{.}$$

关于矩阵的极小多项式的另一个基本评注也是应该说的. 设$A$是一个$n\times n$矩阵, 其元素来源于域$F$. 设$F_1$是以$F$为子域的一个域. (例如, $A$的元素可能是有理数, 而$F_1$是实数域. 或者, $A$的元素是实数, 而$F_1$是复数域.) 我们既可以将$A$当成$F$上的矩阵, 也可以将其当作$F_1$上的矩阵. 从表面上来看, 似乎我们会得到$A$的两个不同的极小多项式. 幸运的是, 这并不会发生, 我们必须明白为什么. 当$A$被视为域$F$上的$n\times n$矩阵时, 其极小多项式的定义是什么? 我们考虑能够零化$A$的系数来源于$F$的首项系数为一的多项式, 并挑选其中次数最小的那个. 如果$f$是域$F$上的一个首项系数为一的多项式: $$f=x^k+\sum _{j=0}^{k-1}{a}_j{x}^j$$ 那么$f(A)=0$仅仅是说我们有了一个$A$的幂之间的线性关系: $$A^k+a_{k-1}{A}^{k-1}+\cdots +a_{1}A+a_{0}I=0\text{.}$$ 极小多项式的次数是满足存在以上形式的$I,A,\dots ,A^k$之间的线性关系的最小的正整数$k$. 而且, 根据极小多项式的唯一性, 对于$k$而言有且仅有一种这样形式的关系, 即一旦最小的$k$确定下来了, 存在唯一的$F$中标量$a_0,\dots ,a_{k-1}$能够使得以上形式的关系成立. 它们是极小多项式的系数.

现在(对于每个$k$)我们有一个"未知元"$a_0,\dots ,a_{k-1}$的具$n^2$个方程的线性方程组. [译注: 也就是考虑$A$的$n^2$个元素得到的线性方程组.] 既然$A$的元素都在$F$中, 那么该线性方程组的系数也都在$F$中. 因此, 如果该方程组有$F_1$中的$a_0,\dots ,a_{k-1}$的解, 那么它就有$F$中的$a_0,\dots ,a_{k-1}$的解. (见第1.4节末.) 现在读者显然可以看出两个极小多项式应该是相同的. [译注: 而且, 这是因为此时解是唯一的.]

到目前为止, 关于$n$维空间上的线性算子的极小多项式, 我们知道什么呢? 我们只知道它的次数不超过$n^2$. 这实际上是一个相当糟糕的估计, 因为它的次数不可能超过$n$. 我们将简短地证明该算子由其特征多项式零化. 首先, 让我们观察到一个基本事实.

令$T$是一个可对角化线性算子而$c_1,\dots ,c_k$是其不同的特征值, 那么很容易看出来$T$的极小多项式为 $$p=(x-c_1)\cdots (x-c_k)\text{.}$$ 如果$\alpha$是一个特征向量, 那么算子$T-c_{1}I,\dots ,T-c_{k}I$之一将$\alpha$送至$0$, 因此对于每个特征向量$\alpha$有 $$(T-c_{1}I)\cdots (T-c_{k}I)\alpha =0\text{.}$$ 对于$T$所变换的空间, 存在一个全由$T$的特征向量构成的基, 于是 $$p(T)=(T-c_{1}I)\cdots (T-c_{k}I)=0\text{.}$$ 总结一下. 如果$T$是一个可对角化的线性算子, 那么$T$的极小多项式是不同的线性因子之积. 我们很快将看到, 这个性质刻画了可对角化算子.

译者注记. 以上我们补充的证明中的$B$和原来的证明中的$B$恰好是互为转置的关系. 读者可以看到, 这并不影响证明, 只是原本与矩阵乘法在形式上暗合的推理变成了转置了的顺序反转的版本而已. 作者的潜在想法实际上是这样的, 虽然原文只是在$2\times 2$的情况下提了一下. 对于多项式上的矩阵, 我们可以定义一个应用矩阵于线性算子的entrywise操作, 其结果是一个以线性算子为元素的矩阵, 即将多项式上的矩阵的逐个元素应用于线性算子得到的矩阵. 这个操作可以保持矩阵乘法, 即如果$A$和$B$是多项式上的矩阵, 而$T$是一个线性算子, 那么$(AB)(T)=A(T)B(T)$. 这里的$A(T)B(T)$纯粹是形式上的矩阵乘法, 其每个元素都是线性算子相乘再相加得到的. 虽然线性算子在一般情况下并不交换, 但在这里相乘的顺序的确没有那么重要, 因为我们知道对于多项式$p$和$q$有$p(T)q(T)=q(T)p(T)$. 除了应用多项式矩阵于线性算子和线性算子矩阵的乘法之外, 我们还需要定义应用线性算子的矩阵于向量的列矩阵的形式操作, 这点在形式上当然和矩阵乘法也是一样的, 只是乘法变成了函数应用而已. 关键的一点在于, 如果$C$是这样一个向量的列矩阵, 那么 $$A(T)[B(T)C]=[A(T)B(T)]C$$ 这个形式上的"乘法结合律"的确也是成立的. 在定义了这些形式操作并知道这几条性质之后, 那么Cayley-Hamilton的证明的确没有什么魔法可言.

此时此刻Cayley-Hamilton定理对于我们有用主要是因为它缩小了我们寻找线性算子的极小多项式的搜索范围. 如果我们知道了在某个有序基下表示$T$的矩阵$A$, 那么我们可以计算特征多项式$f$. 我们知道极小多项式$p$整除$f$, 并且它们拥有相同的根. 不过, 除非次数很小, 没有方法可以精确计算多项式的根. 然而, 如果$f$可以被分解为 $$f={(x-c_1)}^{d_1}\cdots {(x-c_k)}^{d_k},c_1,\dots ,c_k\text{各不相同},d_i\ge 1$$ 那么 $$p={(x-c_1)}^{r_1}\cdots {(x-c_k)}^{r_k},1\le r_j\le d_j\text{.}$$ 这就是在一般情况下我们能够断言的全部事情了. 如果$f$的确是这样的多项式并且其次数为$n$, 那么对于每个具有这种形式的多项式$p$, 我们可以找到一个$n\times n$的矩阵满足以$f$为特征多项式而$p$为极小多项式. 暂时我们还不会证明这个. 但是, 我们想强调的是, 具有这种形式的特征多项式告诉我们了极小多项式所具有的形式. 至于其他内容, 则无可奉告.

第6.4节 不变子空间

本节我们将引入一些在试图分析一个线性算子时有用的概念. 我们将运用这些想法来获得基于极小多项式的对于可对角化 (和可三角化) 算子的刻画.

当子空间$W$在算子$T$下不变时, $T$导出了空间$W$上的一个线性算子$T_W$, 其由$T_W(\alpha )=T(\alpha ),\alpha \in W$定义. 不过, $T_W$和$T$是相当不同的对象, 因为其定义域是$W$而不是$V$.

若$V$是有限维的, 那么$W$在$T$下的不变性有一个简单的矩阵解释, 或许我们现在就应该提到它. 设我们选取了$V$的一个有序基$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$使得${𝔅}^{\prime }=\{{\alpha }_1,\dots ,{\alpha }_r\}$是$W$的一个有序基 ($r=\dim W$). 令$A={[T]}_{𝔅}$, 于是 $$T{\alpha }_j=\sum _{i=1}^n{A}_{i,j}{\alpha }_i\text{.}$$ 既然$W$在$T$下不变, 那么对于$j\le r$有$T{\alpha }_j\in W$, 这意味着 $$T{\alpha }_j=\sum _{i=1}^r{A}_{i,j}{\alpha }_i,j\le r\text{.}$$ 换言之, 对于$j\le r$且$i>r$, $A_{i,j}=0$.

若试图将$A$写下来, 其具有分块形式 $$A=\left[\begin{array}{cc}B& C\\ 0& D\end{array}\right]$$ 其中$B$是一个$r\times r$矩阵, $C$是一个$r\times (n-r)$矩阵, $D$是一个$(n-r)\times (n-r)$矩阵. 读者应该注意到, 根据定义, 矩阵$B$恰是导出算子$T_W$在有序基${𝔅}^{\prime }$下的矩阵.

往往我们并不利用矩阵$A$的分块形式展开关于$T$和$T_W$的论证, 但是我们应该注意到这样的分块形式呈现了$T$和$T_W$之间怎样的显然关系.

译者注记. 对于多项式$f$, $f(A)$具有形式 $$f(A)=\left[\begin{array}{cc}f(B)& C_f\\ 0& f(D)\end{array}\right]$$ 其中$C_f$是某个$r\times (n-r)$的矩阵. 另外, 关于分块矩阵的运算性质, 原书几乎没有任何讨论, 或许读者应该参考其他线性代数教材.

既然算子$T$在大多数讨论中都是固定的, 我们也常扔掉下标$T$而就记作$S(\alpha ;W)$. 许多作者通常将这个多项式的集合称为"stuffer" (das einstopfende Ideal). "conductor"是更标准的术语, 想象一下, 一个不那么激进的算子$g(T)$, 温和地将向量$\alpha$送往$W$. 在$W=\{0\}$的特别情况下, 这个导子也被称为$\alpha$的$T$零化子 ($T$-annihilator).

理想$S(\alpha ;W)$唯一的首项系数为一的生成元也被称为从$\alpha$到$W$的$T$导子 (在$W=\{0\}$的情况下也被称为$T$零化子). 从$\alpha$到$W$的$T$导子是满足$g(T)\alpha \in W$的次数最低的首项系数为一的多项式$g$. 多项式$f\in S(\alpha ;W)$当且仅当$g$整除$f$. 注意到导子$S(\alpha ;W)$总是包含$T$的极小多项式. 因此, 每个$T$导子都整除$T$的极小多项式.

作为如何使用导子$S(\alpha ;W)$的第一个例子, 我们将刻画可三角化算子. 线性算子$T$被称为是可三角化的, 如果其在某个有序基下由三角矩阵表示.

在第6.7节末, 我们将给出定理6的另一个证明. 定理6除了作为优雅的结果, 其在计算方面也是实用的. 设我们有一个线性算子$T$, 在某个有序基下由矩阵$A$表示, 现在我们想要知道$T$是否是可对角化的. 我们计算其特征多项式$f$, 如果我们可以将$f$分解为 $$f={(x-c_1)}^{d_1}\cdots {(x-c_k)}^{d_k}$$ 那么我们有两种判断的方法. 第一种方法是看我们能否对于每个$i$找到与特征值$c_i$相关的$d_i$个线性无关的特征向量. 另一种方法是检验$(T-c_{1}I)\cdots (T-c_{k}I)$是否是零算子.

定理5提供了对于Cayley-Hamilton定理的一个不同的证明. 这个定理对于三角矩阵而言是容易证明, 而通过定理5, 对于任意代数闭域上的矩阵我们都可以得到此结果. 实际上, 任何域都是某个代数闭域的子域. 如果读者知道这个结果, 那么就得到了任意域上的矩阵的Cayley-Hamilton定理. 如果我们至少承认我们对于代数基本定理 (即复数域是代数闭域) 的讨论, 那么定理5提供了对于复矩阵的Cayley-Hamilton的一个证明, 此证明独立于我们之前所给出的.

第6.5节 同时三角化; 同时对角化

令$V$是一个有限维向量空间, $𝔉$是$V$上的一族线性算子. 我们可以问何时能够同时三角化或者对角化这些$𝔉$中的线性算子, 即找到一个基$𝔅$使得矩阵${[T]}_{𝔅},T\in 𝔉$都是三角矩阵 (或者对角矩阵). 在可对角化的情形, $𝔉$必然是可交换算子族, 即对于所有$T,U\in 𝔉$, $UT=TU$. 当然, 每个$𝔉$中的算子也必然是可对角化的. 为了同时三角化, 每个$𝔉$中的算子必然是可三角化的, 但是$𝔉$不必是一个可交换算子族. 然而, 可交换是同时三角化的充分条件 (如果每个$T$都可以被单独三角化). 这些结果只需对于定理5和定理6的证明作小的修改即可得到.

子空间$W$在算子族$𝔉$下不变, 如果其在$𝔉$中的每个算子下不变.

第6.6节 直和分解

当我们继续分析单一的线性算子, 我们将以稍微复杂一点的方式刻画我们的想法——基于子空间而不是矩阵. 本章之初, 我们这样描述我们的目的: 找到一个基使得线性算子的矩阵呈现特别简单的形式. 现在, 我们将我们的目的描述为: 将线性算子所在的空间分解为不变子空间的直和使得这些子空间上的限制算子是简单的.

对于$k=2$, $W_1$和$W_2$线性无关当且仅当$W_1\cap W_2=\{0\}$. 如果$k>2$, $W_1,\dots ,W_k$线性无关不仅是说$W_1\cap \cdots \cap W_k=\{0\}$, 实际上每个$W_j$与其他子空间$W_i$之交都仅是零子空间.

令$W=W_1+\cdots +W_k$, 那么每个向量$\alpha \in W$均可被表示为和 $$\alpha ={\alpha }_1+\cdots +{\alpha }_k,{\alpha }_i\in W_i\text{.}$$ 线性无关的重要性在于, 如果$W_1,\dots ,W_k$是线性无关的, 那么$\alpha$的这种表示是唯一的, 因为如果 $$\alpha ={\beta }_1+\cdots +{\beta }_k,{\beta }_i\in W_i$$ 那么$0=({\alpha }_1-{\beta }_1)+\cdots +({\alpha }_k-{\beta }_k)$, 于是${\alpha }_i-{\beta }_i=0,i=1,\dots ,k$. 因此, 当$W_1,\dots ,W_k$线性无关时, 我们可以将$W$中的向量当作$k$元组$({\alpha }_1,\dots ,{\alpha }_k),{\alpha }_i\in W_i$操作, 就像我们操作${ℝ}^k$的向量一样.

若以上引理中任意的条件成立 (自然其他条件也成立), 那么我们称和$W=W_1+\cdots +W_k$是直的, 或者说$W$是$W_1,\dots ,W_k$的直和, 记作 $$W=W_1\oplus \cdots \oplus W_k\text{.}$$ 在其他文献中, 读者会发现这种和也被称为$W_1,\dots ,W_k$的独立和或者内直和.

设$E$是一个投影, 令$R$是$E$的像, $N$是$E$的零空间.

1. 向量$\beta \in R$当且仅当$E\beta =\beta$. 若存在$\alpha$使得$\beta =E\alpha$, 那么$E\beta =E^2\alpha =E\alpha =\beta$. 反过来, 如果$\beta =E\beta$, 那么(当然有)$\beta \in R$.
2. $V=R\oplus N$.
3. $\alpha$作为$R$和$N$的向量之和的唯一表达为$\alpha =E\alpha +(\alpha -E\alpha )$.

根据1, 2, 3, 很容易看出以下事实. 如果$R$和$N$是$V$的子空间满足$V=R\oplus N$, 那么存在唯一的投影算子$E$以$R$为像且以$N$为零空间. 这个算子被称为沿着$N$到$R$上的投影.

任意的投影$E$都可以被(平凡地)对角化. 如果$\{{\alpha }_1,\dots ,{\alpha }_r\}$是$R$的一个基, $\{{\alpha }_{r+1},\dots ,{\alpha }_n\}$是$N$的一个基, 那么基$𝔅=\{{\alpha }_1,\dots ,{\alpha }_n\}$可以对角化$E$: $${[E]}_{𝔅}=\left[\begin{array}{cc}I& 0\\ 0& 0\end{array}\right]$$ 其中$I$是$r\times r$的恒等矩阵. 这有助于解释某些和投影相关的术语. 读者应该看看平面${ℝ}^2$或者空间${ℝ}^3$里的各种例子以使得他们信服投影具有特定的几何意义.

投影可以用来刻画空间$V$的直和分解. 设$V=W_1\oplus \cdots \oplus W_k$. 对于每个$j$我们可以定义一个$V$上的算子$E_j$. 令$\alpha \in V$, 若$\alpha ={\alpha }_1+\cdots +{\alpha }_k,{\alpha }_i\in W_i$, 定义$E_j\alpha ={\alpha }_j$, 那么$E_j$是良定义的法则. 容易看出$E_j$是线性的, $E_j$的像是$W_j$, 以及$E_j^2=E_j$. $E_j$的零空间是子空间 $$(W_1+\cdots +W_{j-1}+W_{j+1}+\cdots +W_k)\text{.}$$ 这是因为$E_j\alpha =0$的意思即${\alpha }_j=0$, 或者说$\alpha$是除了$W_j$之外的子空间$W_i$的向量的和. 基于投影$E_j$, 对于每个$\alpha \in V$, 我们有 $$\alpha =E_1\alpha +\cdots +E_k\alpha \text{.}$$ 这是在说 $$I=E_1+\cdots +E_k\text{.}$$ 注意到如果$i\ne j$, 那么$E_i{E}_j=0$, 因为$E_j$的像$W_j$包含于$E_i$的零空间之中. 我们现在将我们的发现总结如下, 并证明其逆.

第6.7节 不变直和

我们主要对于这样的直和分解$V=W_1\oplus \cdots \oplus W_k$感兴趣, 其每个子空间$W_i$都在某个给定的线性算子$T$下不变. 给定这样一种对于$V$的分解, $T$通过限制导出了每个$W_i$上的线性算子$T_i$. $T$的作用方式如下. 如果$\alpha \in V$, 那么我们有着唯一的分解 $$\alpha ={\alpha }_1+\cdots +{\alpha }_k,{\alpha }_i\in W_i$$ 然后 $$T\alpha =T_1{\alpha }_1+\cdots +T_k{\alpha }_k\text{.}$$ 我们将这种情况描述为$T$是算子$T_1,\dots ,T_k$的直和. 必须要记得使用此术语时$T_i$不是$V$上而是子空间$W_i$上的线性算子. $V=W_1\oplus \cdots \oplus W_k$的事实允许我们将每个$\alpha \in V$与唯一的一个$k$元组$({\alpha }_1,\dots ,{\alpha }_k)$联系起来, 其中${\alpha }_i\in W_i$ (通过$\alpha ={\alpha }_1+\cdots +{\alpha }_k$), 再加上每个$W_i$都在$T$下不变, 我们可以将$T$在$V$上的作用视为$T_i$于$W_i$上的各独立作用之和. 我们寻找不变直和分解的最终目的当然还是研究$T$, 分解中的每个$T_i$的性质都应该是比较简单的.

在观察例子之前, 让我们先来指出其矩阵形式的类比. 设我们为每个$W_i$挑选了一个有序基${𝔅}_i$, 那么$𝔅=({𝔅}_1,\dots ,{𝔅}_k)$是$V$的一个有序基. 根据之前讨论单一不变子空间的矩阵类比的经验, 很容易看出来如果$A={[T]}_{𝔅}$且$A_i={[T_i]}_{{𝔅}_i}$, 那么$A$具有分块形式 $$A=\left[\begin{array}{cccc}{A}_1& 0& \cdots & 0\\ 0& A_2& \cdots & 0\\ ⋮& ⋮& & ⋮\\ 0& 0& \cdots & A_k\end{array}\right]\text{.}$$

往往我们藉由与直和分解相关联的投影来刻画那些子空间 (定理9), 于是我们需要能够基于投影来重述不变直和.

现在我们将以不变直和分解 (与$T$交换的投影) 的语言刻画可对角化算子$T$. 这将有助于我们理解之后一些更加深刻的分解定理. 这种描述乍看上去可能比较复杂, 但是读者应该明白这是我们第一次得以瞥见一种非常有效的方法, 其可以将子空间, 基, 矩阵之类的相关问题规约为线性算子的代数计算. 在稍微熟悉之后, 这种推理方法的有效和优雅应该是显然的.

定理9的一部分告诉我们, 对于一个可对角化算子$T$而言, 标量$c_1,\dots ,c_k$和算子$E_1,\dots ,E_k$由条件i, ii, iii以及$c_i$不同和$E_i$非零的事实所唯一确定. 这种分解$T=c_1{E}_1+\cdots +c_k{E}_k$的一个令人愉快的特性在于如果$g$是域$F$上任意的多项式, 那么 $$g(T)=g(c_1)E_1+\cdots +g(c_k)E_k\text{.}$$ 我们将证明的细节留给读者. 为了看明白其是如何得以证明的, 读者只需对于每个正整数$r$计算$T^r$, 例如 $$\begin{array}{rcl}{T}^2& =& \left(\sum _{i=1}^k{c}_i{E}_i\right)\left(\sum _{j=1}^k{c}_j{E}_j\right)\\ & =& \sum _{i=1}^k\sum _{j=1}^k{c}_i{c}_j{E}_i{E}_j\\ & =& \sum _{i=1}^k{c}_i^2{E}_i^2\\ & =& \sum _{i=1}^k{c}_i^2{E}_i\end{array}$$ 读者应该将这个结果与$A$为对角矩阵时的$g(A)$进行比较, 因为$g(A)$就是以$g(A_{1,1}),\dots ,g(A_{n,n})$为对角元素的对角矩阵.

我们特别想要指出当人们应用与$c_1,\dots ,c_k$相对应的Lagrange多项式 $$p_j=\prod _{i\ne j}^{}\frac{(x-c_i)}{(c_j-c_i)}$$ 时会发生什么. 我们有$p_j(c_i)={\delta }_{i,j}$, 这表明 $$\begin{array}{rcl}{p}_j(T)& =& \sum _{i=1}^k{\delta }_{i,j}{E}_i\\ & =& E_j\end{array}$$ 因此投影$E_i$不仅与$T$交换, 还是多项式应用于$T$的结果.

这样应用多项式于$T$的计算可以用来给出定理6的另一个证明, 定理6基于极小多项式刻画了可对角化的条件. 这个证明完全独立于我们先前所给出的.

如果$T$是可对角化的, $T=c_1{E}_1+\cdots +c_k{E}_k$, 那么对于每个多项式$g$有 $$g(T)=g(c_1)E_1+\cdots +g(c_k)E_k$$ 因此$g(T)=0$当且仅当对于每个$i$有$g(c_i)=0$. 特别地, $T$的极小多项式为 $$p=(x-c_1)\cdots (x-c_k)\text{.}$$

现在设$T$是以$p=(x-c_1)\cdots (x-c_k)$为极小多项式的线性算子, 其中$c_1,\dots ,c_k$是标量域的不同元素. 我们构造Lagrange多项式 $$p_j=\prod _{i\ne j}^{}\frac{(x-c_i)}{(c_j-c_i)}\text{.}$$ 回忆一下第4章, $p_j(c_i)={\delta }_{i,j}$以及对于任意次数小于等于$(k-1)$的多项式, 我们有 $$g=g(c_1)p_1+\cdots +g(c_k)p_k\text{.}$$ 取$g$为标量多项式$1$, 然后是多项式$x$, 我们得到 $$1=p_1+\cdots +p_k,x=c_1{p}_1+\cdots +c_k{p}_k\text{.}$$ (聪明的读者可能会注意到应用Lagrange插值于$x$可能并不合法, 因为$k$可能是$1$. 但是如果$k=1$, $T$是恒等算子的一个标量倍数, 因而是可对角化的.) 现在令$E_j=p_j(T)$, 根据Lagrange插值我们有 $$I=E_1+\cdots +E_k,T=c_1{E}_1+\cdots +c_k{E}_k\text{.}$$ 观察到如果$i\ne j$, 那么$p_i{p}_j$被极小多项式$p$整除, 因为每个$c_r$都是其根. 因此, 我们可以推出 $$E_i{E}_j=0,i\ne j\text{.}$$ 我们还需要注意到另一个事实, 即对于每个$i$有$E_i\ne 0$. 这是因为$p$是$T$的极小多项式, 而$p_i$的次数小于$p$的次数, 所以不可能有$p_i(T)=0$. 现在应用定理11, 我们可以得出$T$是可对角化的. [译注: 实际上, 即便没有$E_i\ne 0$, 也足够断言$T$是可对角化的. 这是因为$E_1,\dots ,E_k$显然可以被同时对角化, 而恰恰在这个同时对角化的基下, 鉴于$T=c_1{E}_1+\cdots +c_k{E}_k$, 直接就可以看出$T$的表示矩阵是对角矩阵. 之所以定理11需要额外的条件, 那是因为定理11作出了额外的断言.]

第6.8节 准素分解定理

我们一直在尽力研究有限维空间$V$上的线性算子$T$, 通过将其分解为算子的直和, 这些算子在某种意义上是简单的. 在特定的情况下, 即$T$的极小多项式在标量域$F$上可以被分解为不同的首项系数为一的一次多项式之积时, 我们藉由特征值和特征向量的概念就可以完成分解. 那么对于一般情况下的$T$, 我们该怎么做呢? 如果我们想要通过特征值来研究$T$, 我们将面临两个问题. 第一个问题是$T$可能压根没有特征值, 这或许应该归咎于标量域, 即它不是代数闭域. 第二个问题是即便特征多项式在$F$上可以被完全分解为一次多项式之积, 仍然可能没有足够的特征向量以张成$V$, 这显然应该归咎于$T$. 我们用一个例子来刻画第二种情况. 现在给定$F^3$ ($F$为任意的域) 上的线性算子$T$, 其在标准有序基下由 $$A=\left[\begin{array}{ccc}2& 0& 0\\ 1& 2& 0\\ 0& 0& -1\end{array}\right]$$ 表示. $A$的特征多项式为${(x-2)}^2(x+1)$, 这也是$A$ (或者$T$) 的极小多项式. 因此, $T$是不可对角化的. 读者可以看出来, 这种情况会发生是因为$(T-2I)$的零空间仅是一维的. 另一方面, $(T+I)$的零空间和${(T-2I)}^2$的零空间一起可以张成$V$, 前者是由${\epsilon }_3$张成的子空间, 后者是由${\epsilon }_1$和${\epsilon }_2$张成的子空间.

这或多或少将会是我们处理第二个问题的一般方法. 如果 (记住这是一个假设) $T$的极小多项式可以被分解为 $$p={(x-c_1)}^{r_1}\cdots {(x-c_k)}^{r_k}$$ 其中$c_1,\dots ,c_k$是$F$的不同元素, 那么我们可以证明空间$V$是${(T-c_{i}I)}^{r_i},i=1,\dots ,k$的零空间的直和. 这关于极小多项式$p$的假设等价于$T$是可三角化的 (定理5). 然而, 这条知识并不会帮到我们.

我们实际将要证明的定理比起刚才所描述的要更加一般, 因为它考虑的是极小多项式的素因子分解, 不论素因子本身的次数是否为一. 读者或许会发现思考素因子均为一次的特殊情形是有用的, 甚至是思考定理6的基于投影概念的证明, 定理6是这个定理更加特殊的情形.

在定理12的证明的记号下, 让我们看看$T$的极小多项式是一次多项式之积的特殊情形, 即每个$p_i$都具有形式$p_i=x-c_i$. 现在$E_i$的像是${(T-c_{i}I)}^{r_i}$的零空间$W_i$. 让我们置$D=c_1{E}_1+\cdots +c_k{E}_k$. 根据定理11, $D$是一个可对角化算子, 我们将其称为$T$的可对角化部分. 让我们看看算子$N=T-D$. 因为 $$T=T{E}_1+\cdots +T{E}_k,D=c_1{E}_1+\cdots +c_k{E}_k$$ 所以 $$N=(T-c_{1}I)E_1+\cdots +(T-c_{k}I)E_k$$ 读者现在对于投影已经足够熟悉了, 可以看出 $$N^2={(T-c_{1}I)}^2{E}_1+\cdots +{(T-c_{k}I)}^2{E}_k$$ 以及在一般情况下 $$N^r={(T-c_{1}I)}^r{E}_1+\cdots +{(T-c_{k}I)}^r{E}_k$$ 当$r$满足对于每个$i$有$r\ge r_i$时, 我们有$N^r=0$, 因为算子${(T-c_{i}I)}^r$在$E_i$的像上为$0$.

从以上这些结果来看, 读者应该明白对于代数闭域上的向量空间上的线性算子的研究基本上可以归结为对于幂零算子的研究. 对于非代数闭域上的向量空间而言, 我们仍然需要寻找特征值和特征向量的某种替代物. 有趣的是, 这两个问题可以被同时处理, 而这就是我们在下一章所要做的事情.

为了给本节作结, 我们想要举一个例子, 它刻画了准素分解定理的某些想法. 之所以我们选择把它放在本节的最后, 是因为它处理微分方程, 并不是纯粹的线性代数.

译者注记. 以上的例子中的推理过程存在不甚严格的步骤, 即微分算子$D$并非严格意义上的$C^n$上的线性算子, 因为$n$次连续可微函数的导数并不一定仍然是$n$次连续可微的. 因此, 鉴于$p(D)$和$D$交换, 所以$p(D)$的零空间在$D$下不变这样的推理也不能称得上令人满意. 当然, 如果将我们所考虑的函数类限制于无穷可微的$C^{\infty }$的情形, 上述的推理倒是相当严密, 结果也没有改变.