第9章 内积空间上的算子
第9.1节 引论
我们将第8章所处理的大部分议题视为基础的, 即每个人都应该知道的材料. 本章是面向更加优秀的学生以及那些迫不及待想要扩展自己关于内积空间上的算子的知识的读者的. 这里呈现的材料更加复杂, 一般牵涉更多的技术, 除了主轴定理, 其基本上就是重述定理18关于自伴算子的酉/正交对角化的结果, 以及第9.2节中关于形式的其他结果. 我们要求读者更加成熟, 就像第5章和第7章的后半部分那样. 论证和证明以更加凝缩的风格编写, 并且几乎没有多少用以润滑的例子. 然而, 我们已经预见到了这种困难, 所以为读者提供了大量的练习.
起初的三节致力于关于内积空间上的形式以及形式与线性算子之间的关系的结果. 接下来的一节处理谱论, 即第8章牵涉自伴算子和正规算子的对角化的定理18和22的推论. 最后一节里, 我们研究实内积空间上的正规算子, 由此我们检视了第6章的准素分解定理之于正规算子的意蕴.
第9.2节 内积空间上的形式
如果是域上的有限维内积空间上的一个线性算子, 那么由定义的函数可以被视为的一种替代物. 诸多关于的问题都等价于关于的问题. 实际上, 很容易看出来可以确定. 这是因为, 如果是的一个规范正交基, 那么在下的矩阵由给出. 从更加抽象的角度理解为什么可以确定是重要的. 的重要性质在以下定义中得以描述.
定义. 一个域
(
是实数域或复数域) 上的向量空间
上的
(半双线性)形式是一个函数
满足对于任意的
和任意的标量
有
- ;
- .
因此, 半双线性形式使得在固定的下是的线性函数, 而在固定的下是的共轭线性函数. 在实情形下, 对于每个参数都是线性的. 换言之, 是一个双线性形式. 在复情形下, 除非, 否则半双线性形式不会是双线性形式. 在本章的剩余部分里, 除非确有必要, 否则形容词"半双线性"一律省略.
如果和是上的形式而是任意的标量, 那么很容易验证也是一个形式. 换言之, 任意的形式的线性组合仍然是一个形式. 因此, 上的所有形式构成的集合是向量空间的一个子空间, 其中是向量空间的标量域.
定理1. 令是一个有限维内积空间, 是上的一个形式, 那么存在唯一的上的线性算子满足对于任意的都有并且, 由此定义的映射是从形式的空间到的一个同构.
证明. 固定一个向量
, 那么
是
上的一个线性泛函. 根据第8章的定理6, 存在唯一的向量
使得对于每个
, 我们有
. 定义函数
, 那么
对于任意的
和任意的标量
成立. 因此,
是
上的一个线性算子. 令
, 则有对于所有的
,
. 如果我们也有线性算子
使得
, 那么
于是, 对于每个
,
. 换言之, 对于每个形式
, 存在唯一的线性算子
使得对于每个
, 我们有
如果
和
是形式而
是标量, 那么
对于任意的
成立, 因而
换言之,
是一个线性映射. 对于每个
, 等式
定义了一个形式
使得
. 并且, 如果
, 那么
. 因此,
的确是一个同构.
推论. 等式定义了形式的空间上的一个内积, 并且对于每个的规范正交基, 我们有
证明. 根据第8章的例子3, 很容易推出
是
上的一个内积. 既然
是一个同构, 第8章的例子6表明
也是一个内积. [译注: 实际上, 前一个内积也是通过第8章的例子6得到的.] 现在设
和
分别是
和
在规范正交基
下的矩阵, 那么
而
这可以推出
定义. 如果是上的一个形式而是的一个有序基, 那么由定义的矩阵被称为在有序基下的矩阵.
当是一个规范正交基时, 在下的矩阵也是线性变换在下的矩阵, 但是在一般情况下并非如此.
如果是在有序基下的矩阵, 那么对于任意的标量和成立. 换言之, 矩阵具有的性质, 其中和分别是和在有序基下的坐标矩阵.
在另外一个基下的矩阵由式子给出, 这是因为既然对于酉矩阵而言, 我们有, 因而与酉等价相关的结果也可应用于对形式的研究.
定理2. 令是有限维复内积空间上的一个形式, 那么存在的一个规范正交基使得其下的的矩阵是上三角的.
证明. 令
是
上的线性算子, 其满足对于任意的
有
. 根据第8章的定理21, 存在
的一个规范正交基
使得
在其下的矩阵是上三角的. 根据之前的观察, 我们知道此时
的矩阵和
的矩阵是相同的. 换言之,
在规范正交基
下的矩阵是上三角的.
定义. 实或复向量空间上的形式被称为Hermite的, 如果对于每个有
如果是有限维内积空间上的线性算子, 而是由定义的形式, 那么换言之, 是Hermite的当且仅当是自伴的.
当是一个Hermite形式, 那么对于每个向量, 是实数. 在复向量空间上, 这个性质就刻画了Hermite形式.
定理3. 令是一个复向量空间而是上的一个形式, 如果对于每个向量有为实数, 那么是一个Hermite形式.
证明. 令
和
是
中的向量, 我们必须证明
. 现在我们有
既然
,
,
都是实数,
也应该是实数. 对于
施行相同的论证, 我们又可以得到
是实数. 我们知道实数的共轭等于其本身, 于是
给第二个等式乘上
, 然后再加上第一个等式, 我们就得到
即
推论. 令是有限维复内积空间上的一个线性算子, 那么是自伴算子当且仅当对于每个, 是实数.
定理4. 主轴定理. 对于有限维内积空间上的每个Hermite形式, 存在的一个规范正交基使得在其下由一个实对角矩阵表示.
证明. 根据定理1, 存在唯一的线性算子
使得
. 根据之前的观察, 既然
是Hermite形式, 那么
是自伴算子. 根据第8章的定理18, 我们知道存在
的一个规范正交基
使得
由对角矩阵表示. 当然, 根据第8章的定理15, 这个对角矩阵的元素均为实数. 我们知道,
在规范正交基
下的矩阵即
在
下的表示, 所以
在
下也由实对角矩阵表示.
推论. 对于有限维内积空间上的Hermite形式, 存在一个规范正交基使得对于每个, 若和分别是和在下的坐标, 那么其中是固定的实数.
练习1. 请问下列函数
中哪些是
上的(半双线性)形式, 其中我们设
,
?
- .
- .
- .
- .
练习2. 令是上的形式, 找出在以下的每个基下的矩阵:
练习3. 令而是上的形式, 那么是一个内积吗?
练习4. 令是一个复向量空间而是上的一个对称的(半双线性)形式, 即, 那么是什么呢?
练习5. 令是上的形式, 找到一个有序基使得由一个对角矩阵表示.
练习6. 称形式为(左)非退化的, 如果对于每个向量有可以推出. 令是有限维内积空间上的一个形式, 证明是非退化的当且仅当其对应的线性算子 (定理1) 是非奇异的.
练习7. 令是有限维向量空间上的一个形式. 参考练习6给出的左非退化的概念, 定义右非退化, 并证明是左非退化的当且仅当是右非退化的.
练习8. 令是有限维向量空间上的一个非退化形式 (练习6和7), 是上的一个线性泛函, 证明存在唯一的使得对于每个有.
练习9. 令是有限维向量空间上的一个非退化形式, 证明每个线性算子都有一个"相对于的伴随", 即一个线性算子满足对于每个有.
第9.3节 正定形式
本节我们将讨论非负(半双线性)形式以及其与向量空间上的给定内积之间的关系.
定义. 给定实或复向量空间, 其上的形式被称为非负的, 如果是Hermite的并且对于每个有; 其上的形式被称为正定的, 如果是Hermite的并且对于每个非零向量有.
上的正定形式实际上就是上的内积. 非负形式几乎就是内积了, 除了某些非零向量可能"正交"于自身.
令是有限维向量空间上的一个形式, 是的一个有序基, 是在基下的矩阵, 即. 如果, 那么于是, 我们看出来是非负形式当且仅当[译注: 这是为Hermite形式的充要条件] 且为了使得成为正定形式, 以上的不等式必须对于每个严格成立. 刚才我们推导出的条件说明是上的一个正定形式当且仅当函数是列矩阵空间上的正定形式, 其中是向量空间的标量域.
定理5. 令是实数域或者复数域, 是域上的一个矩阵, 那么由定义的函数是上的正定形式当且仅当存在一个可逆矩阵满足.
证明. 对于任意的
矩阵
, 函数
都是列矩阵空间上的(半双线性)形式. 我们想要证明的是,
为正定的当且仅当
. 首先, 设
, 那么
是Hermite的, 并且
若
是可逆的, 那么
时
, 于是
.
现在, 设
是列矩阵空间上的正定形式, 那么
就是一个内积, 因而存在列矩阵
使得
但是, 这不过就是在说, 如果
是以
为列的矩阵, 那么
. 既然
相对于内积
是一个规范正交基, 所以
是可逆的. 令
, 我们就得到
.
在实践中, 验证一个给定的矩阵满足我们到目前为止给出的正定判则并非易事. 定理5的一个推论是, 若为正定形式, 那么, 因为然而, 并不足以保证是正定形式. 不过, 存在与相关联的个行列式具有此性质: 如果且这些行列式均为正数, 那么是一个正定形式.
定义. 令是域上的一个矩阵, 那么的顺序主子式 (principal minor)是由定义的个标量.
引理. 令
是域
上的一个
的可逆矩阵, 那么以下陈述是等价的.
- 存在一个主对角线元素全为的上三角矩阵使得是下三角矩阵.
- 的顺序主子式均异于.
证明. 令
是任意的
矩阵, 置
, 那么
如果
是一个主对角线均为
的上三角矩阵, 那么
既然
为下三角矩阵等价于
时有
, 因而
为下三角矩阵当且仅当
我们可以将以上式子看成是关于
的线性方程组, 那么陈述a就等价于该方程组有解.
实际上, 我们最好将这个大的线性方程组按照
拆分. 对于每个
, 我们有一个关于未知元
的具
个方程的线性方程组, 其系数矩阵为
这个矩阵的行列式即顺序主子式
. 若陈述b成立, 那么这些线性方程组都有唯一解. 也就是说, 大的线性方程组也有唯一解. 于是, 陈述a成立, 并且矩阵
实际上是唯一的. 因此, 陈述b可以推出陈述a.
现在设a成立, 那么
其中
利用了
是上三角矩阵的事实. 既然
和
均可逆, 那么
也可逆. 鉴于下三角矩阵
可逆等价于
, 于是
定理6. 令是有限维向量空间上的一个形式, 是在的某个有序基下的矩阵, 那么是正定形式当且仅当并且的顺序主子式均为正数.
证明. 让我们先来证明这个定理有趣的一半. 设
, 并且
. 根据引理, 存在(唯一的)主对角线均为
的上三角矩阵
使得
是下三角矩阵. 矩阵
当然是一个下三角矩阵, 于是
也是下三角的. 既然
是自伴的, 那么
也是自伴的. 显然, 自伴的下三角矩阵必然是一个对角矩阵. 按照前面引理的证明里的类似手法, 我们可以推出
鉴于
是一个对角矩阵, 其顺序主子式为
因为
的顺序主子式均为正数, 所以
的顺序主子式也均为正数, 那么我们可以推出
如果
是形式
在有序基
下的矩阵, 那么
是形式
在有序基
下的矩阵, 其中
既然
是主对角线元素均为正数的对角矩阵, 那么显然有
这就说明
是一个正定形式.
现在反过来设
是正定形式. 我们知道
, 但是该怎么说明
呢? 令
是由
张成的子空间, 而
是
在
上的限制, 那么显然
是
上的正定形式, 且
在有序基
下的表示为
作为定理5的推论, 我们注意到每个正定形式
的矩阵表示
的行列式都应该是正数, 即
的每个顺序主子式
均为正数.
这里有一些我们应该作出的评注, 以完成我们对于正定形式和正定矩阵之间的关系的讨论. 什么刻画了表示正定形式的矩阵? 如果是有限维复向量空间上的一个形式, 是在某个有序基下的矩阵, 那么是正定的当且仅当且根据定理3, 的条件是多余的, 因为可以推出. 另一方面, 如果是有限维实向量空间上的形式而是在某个有序基下的矩阵, 那么是正定的当且仅当且我们想要强调的是, 实情形下无法推出. 然而, 值得注意的是, 如果实矩阵满足和, 那么即便对于每个复的列矩阵, 我们也有这是因为, 若, 其中, 那么而在的情况下, 有.
如果是一个的复矩阵并且满足那么我们就称是一个正定矩阵. 我们已经知道, 有限维复向量空间上的形式是正定的当且仅当其在某个有序基下的矩阵是正定矩阵. (这里的"某个"也可以被替换为"每个".) 但是, 刚才的评注告诉我们, 即便是在实情形下, 我们还是可以断言形式正定的充要条件为其在某个有序基下的矩阵正定. 当然, 我们这里将实矩阵也视为复矩阵. 不过, 读者需要注意的是, 即便是实矩阵, 其正定的条件亦是相对于每个非零的复列矩阵而言的.
现在设是一个有限维内积空间而是上的一个非负形式, 那么存在唯一的上的一个自伴算子满足并且还具有的额外性质.
定义. 设是一个有限维内积空间. 上的一个线性算子是非负的, 如果且对于每个有. 上的一个线性算子是正定的, 如果且对于每个有.
如果是一个有限维的(实或复)向量空间而是上的一个内积, 那么上有个与之相关联的正定算子类. 通过定理1所描述的映射, 上所有正定形式构成的集合与所有正定算子构成的集合之间存在一个双射. 我们将以本节的练习来强调正定算子, 正定形式, 正定矩阵之间的关系. 以下的总结或许是有用的.
如果是一个复数域上的矩阵, 那么以下陈述是等价的.
- 是正定矩阵, 即对于不全为零的复数, 我们有.
- 是的复矩阵空间上的一个内积.
- 相对于的复矩阵空间上的标准内积, 线性算子是正定的.
- 存在某个可逆的满足.
- 且的顺序主子式均为正数.
若
的每个元素均为实数, 那么以上这些又等价于
- 且对于不全为零的实数, 我们有.
- 是的实矩阵空间上的一个内积.
- 相对于的实矩阵空间上的标准内积, 线性算子是正定的.
- 存在某个可逆的满足.
练习1. 令是带有标准内积的, 对于什么样的向量, 存在一个正定算子使得呢?
练习2. 令是带有标准内积的, 如果是一个实数, 令是逆时针旋转的线性算子, 即为何值时是正定算子呢?
练习3. 令是, 而其上的内积为, 这里的要使得该公式的确定义了一个内积. 令是一个的矩阵而线性算子. 找出. 如果是的一个固定元素, 找出确定了线性泛函的元素. 换言之, 对于每个有.
练习4. 令是一个有限维内积空间. 如果和是上的正定算子, 证明也是正定算子. 给出一个例子表明不必是正定的.
练习5. 令
- 证明是正定的.
- 令是, 而其上的内积为. 现在定义请应用Gram-Schmidt过程以找出的一个规范正交基.
- 找出一个的可逆实矩阵使得.
练习6. 以下哪些矩阵是正定的?
练习7. 给出一个矩阵的例子, 其所有顺序主子式均为正数, 但是并非正定矩阵.
练习8. 定义了上的一个内积吗?
练习9. 证明正定矩阵的每个主对角线元素均为正数.
练习10. 令
是一个有限维内积空间. 如果
和
是
上的线性算子, 当
为正定算子时我们记
. 证明以下断言:
- 和不能同时成立.
- 如果且, 那么.
- 如果且, 不必成立.
练习11. 令
是一个有限维内积空间而
是
在其某个子空间上的正交投影.
- 证明对于任意的正数, 算子是正定的.
- 以表达满足自伴线性算子.
练习12. 设是一个正整数而证明是正定的.
练习13. 令是一个自伴的矩阵, 证明存在正数使得矩阵是正定的.
练习14. 证明两个正定线性算子之积是正定的当且仅当它们交换.
练习15. 令和是正定算子, 证明的每个特征值都是正数.
第9.4节 更多关于形式的结果
本节包含两个结果, 其给出了关于(半双线性)形式的更加详细的信息.
定理7. 设是一个实或复向量空间, 是的一个有限维子空间并且是其一个有序基. 令是上的一个形式而是由定义的矩阵. 如果那么是的一个子空间, 并且当且仅当可逆. 当的确如此时, .
证明. 如果
而
是一个标量, 那么对于每个
, 我们可以推出
因此,
的确是
的一个子空间.
现在设
那么
由此可知
当且仅当方程组
成立, 因而
当且仅当齐次线性方程组
具有非平凡解. 换言之,
等价于
可逆, 但
可逆当且仅当
可逆.
设
可逆并令
我们定义
上的函数
为
那么
也就是说, 每个
的确都是
上的线性泛函. 因此, 我们可以定义
上的一个线性算子
为
既然
我们可以推出
换言之, 对于每个
,
. 现在我们知道
的像是
并且
, 即
是从
到
上的投影. 若
是
中任意的一个向量, 那么
既然
, 我们可以推出
换言之, 对于每个
, 我们有
, 于是
对于所有
和
成立. 那么,
, 根据等式
我们可以断言
. 当然, 依照前面的论证, 这个和是一个直和, 即
. 证明的最后, 还有一点值得提及的是,
实际上是从
到
的投影. 若
, 那么
, 因此
, 即
是
的像. 另外, 根据第6章的推理,
的确是一个幂等线性算子.
证明中构造的投影可由以下性质刻画: 当且仅当且. 因此, 独立于其构造过程中用到的的基. 因此, 我们可以称是由直和分解确定的从到上的投影. 注意到是一个正交投影当且仅当.
定理8. 设是一个有限维的实或复向量空间, 是上的一个形式而是在的某个有序基下的矩阵. 如果的顺序主子式均异于零, 那么存在唯一的主对角线元素全为的上三角矩阵使得是一个上三角矩阵.
证明. 既然
,
的顺序主子式也都异于零. 因此, 根据定理6的引理, 存在一个主对角线元素全为
的上三角矩阵
满足
是一个下三角矩阵. 于是,
是一个上三角矩阵. 既然两个上三角矩阵之积仍然是上三角矩阵,
是一个上三角矩阵. 这表明了
的存在性, 但没有说明
的唯一性. 然而, 其实有一个更加几何的论证方法可以同时说明
的存在性和唯一性.
令
是由
张成的子空间, 而
既然
, 那么由
定义的
矩阵
是可逆的. 根据定理7, 我们有
令
是由这个直和分解决定的从
到
上的投影, 并置
, 设
那么
, 而
时有
. 于是, 对于
, 存在唯一的标量
使得
再置
以及
时
, 我们就得到了一个
的上三角矩阵
, 其主对角线元素均为
, 并且对于
, 我们有
设
且
, 那么
而
. 既然
, 可以推出
令
是
在有序基
下的矩阵表示, 那么
于是,
时
, 因而
是一个上三角矩阵. 另一方面, 根据关于形式的基变换的讨论, 我们有
反过来, 设
是一个满足我们要求的矩阵, 即
是一个主对角线元素均为
的上三角矩阵使得
也是上三角的, 置
那么
显然是
的一个基. 对于
,
是
的一个基, 而且当
时有
[译注: 这是因为
且
是一个上三角矩阵], 由此我们可以看出
. 定义
的公式告诉我们
既然
而
又鉴于
故
这实际上就完全确定了
的可能性, 进而完全确定了矩阵
. 当然, 我们可以很容易看出这个
正是我们之前说明存在性时所构造出来的矩阵.
第9.5节 谱论
本节我们探求牵涉自伴算子和正规算子的对角化的第8章的定理18和22的推论.
定理9. 谱定理. 令是有限维复内积空间上的一个正规算子, 或者是有限维实内积空间上的一个自伴算子, 设是的不同的特征值, 令是特征值所对应的特征空间, 是在上的正交投影, 那么不同的和相互正交, 是的直和, 并且
证明. 令
,
, 并设
, 那么
鉴于
, 可以推出
, 即不同的
和
是相互正交的.
根据
拥有全由
的特征向量构成的规范正交基这一事实 (见第8章的定理18和22), 立即可以得到
因此,
并且
这个定理中出现的分解, 我们将其称为的谱分解 (spectral resolution). 某些物理应用导致了有限维向量空间上的线性算子的谱 (spectrum)被定义为线性算子的特征值的集合, 而这是我们使用谱分解这一术语的部分缘由. 另外, 注意到正交投影由唯一确定也是重要的; 实际上, 它们是应用多项式于得到的结果. [译注: 也请读者参考第6章的定理11.]
推论. 如果那么
证明. 译者就不翻译这里的证明了, 因为它实际上只是第6章的定理11的证明之后的讨论的重复.
因为由唯一确定并且投影族被称为由定义的单位分解 (resolution of the identity defined by ).
关于谱定理的证明我们有需要作出的评注. 我们运用关于自伴算子和正规算子对角化的第8章的定理18和22推导出了这个定理. 实际上还有一个更加代数的证明方法, 其需要先证明正规算子的极小多项式是不同的素因子之积. 然后, 我们以类似于证明准素分解定理 (第6章的定理12) 的方式进行处理. 下一节我们将会给出这种证明.
在各种应用中, 有时知道我们能否计算关于算子或者矩阵的特定函数 (例如平方根) 是必要的, 而这对于可对角化的正规算子而言是简单的.
定义. 令是有限维内积空间上的一个可对角化正规算子, 并且是其谱分解. 如果函数的定义域包括的谱而取值于标量域, 那么我们定义线性算子为
定理10. 令是有限维内积空间上的一个谱为的可对角化正规算子, 设是一个定义域包含而值取于标量域的函数, 那么是一个谱为的可对角化正规算子. 如果也是一个有限维内积空间而是一个从到的酉映射, 并且, 那么也是的谱而
证明. 的正规性可以根据定义和
这一事实通过简单的计算推得. 而且, 显然对于每个
, 我们有
因此, 集合
是
的谱的子集. 反过来, 设
并且
那么根据
由此可以推出
因而
所以, 我们可以断言
或者
. 根据假设,
, 故存在一个下标
使得
. 然后我们就可以推出
, 也就是说
的确是
的谱. 实际上, 设
其中当
时
, 也就是互异, 令
, 置
那么
是从
到
与特征值
相关联的特征空间的正交投影, 而且
是
的谱分解.
现在设
是从
到
的酉变换, 并且
, 那么等式
成立当且仅当
因此
是
的谱, 并且
将
的每个特征空间映射成相对应的
的特征空间. 实际上, 根据定义, 我们可以看出
是
的谱分解. 因此, 我们又可以推出
在思考前述的讨论时, 我们一定要记得正规算子的谱是集合而且这些是互异的. 当在某个由特征向量构成的基下由一个对角矩阵表示时, 每个都需要重复相对应的特征空间的维数次. 这是我们在以下结果中改换记号的原因.
推论. 在定理10的假设下, 设在某个有序基下由对角矩阵表示, 并且的对角线为, 那么在有序基下, 由对角矩阵表示, 其对角线为. 如果是任意的有序基并且是从到的基变换矩阵, 即那么是在基下的矩阵.
证明. 对于每个下标
, 存在唯一的
(
) 使得
且
. 因此, 对于每个
,
, 并且
由这个结果我们可以构造正规矩阵的特定函数, 以下是论证. 设是一个正规矩阵, 那么存在一个可逆的矩阵 (实际上是一个酉矩阵) 使得是一个对角矩阵, 设其为而对角线元素分别为. 令是一个可以应用到上的复值函数, 令是以为对角线元素的对角矩阵, 那么独立于, 在以下意义上只是的一个函数. 如果是另一个可逆矩阵并且是一个对角矩阵, 那么可以被应用到的对角线元素上且
定义. 在以上条件下, 被定义为.
矩阵也可以用一种不同的方式刻画.
第9.6节 正规算子的更深刻性质