线性代数第8章内积空间

第8章内积空间

第8.1节内积

整章我们只考虑实或复向量空间, 即实数域或复数域上的向量空间. 我们的主要目的在于研究可以讨论向量长度和夹角的向量空间. 我们将研究一类特定的标量值函数, 其定义于向量的序对之上, 被称为内积. 内积的一个例子是 $ℝ^{3}$ 中的标量积或者说点积. $ℝ^{3}$ 中的向量 $α = (x_{1}, x_{2}, x_{3}) 和 β = (y_{1}, y_{2}, y_{3})$ 的标量积是实数 $⟨ α | β ⟩ = x_{1} y_{1} + x_{2} y_{2} + x_{3} y_{3} .$ 从几何上说, 这个点积是 $α$ 的长度, $β$ 的长度, 以及 $α$ 和 $β$ 的夹角的余弦之积. 因此, 藉由代数地定义的标量积来定义 $ℝ^{3}$ 中的长度和夹角这样的几何概念完全是可能的.

向量空间上的内积是性质与 $ℝ^{3}$ 中的点积类似的函数, 而基于这样的内积我们又可以定义长度和角度. 我们关于角度的一般概念的注记将仅限于向量的垂直性 (或者说正交性). 第一节我们将定义何谓内积, 考虑一些实际的例子, 并建立内积的一些基本性质. 之后, 我们将回到讨论长度和正交性的任务上来.

定义. 令

F

是实数域或复数域,

V

是域

F

上的一个向量空间.

V

上的一个内积是一个函数

V \times V \to F, (α, β) \mapsto ⟨ α | β ⟩

满足对于任意的

α, β, γ \in V

和任意的标量

c \in F

有

$⟨ α + β | γ ⟩ = ⟨ α | γ ⟩ + ⟨ β | γ ⟩$ ;
$⟨ c α | β ⟩ = c ⟨ α | β ⟩$ ;
$⟨ β | α ⟩ = \overline{⟨ α | β ⟩}$ , 一横代表复共轭;
如果 $α \neq 0$ , 那么 $⟨ α | α ⟩ > 0$ .

读者应该注意到条件a, b, c可以推出条件e: $⟨ α | c β + γ ⟩ = \overline{c} ⟨ α | β ⟩ + ⟨ α | γ ⟩ .$ 另一点值得说明的是, 当 $F$ 是实数域 $ℝ$ 时, 条件c和e中的复共轭是多余的. 然而, 在复数域的情况下, 为了条件的一致性, 复共轭则是必要的. 若是没有这些复共轭, 我们就会得到以下矛盾: $⟨ α | α ⟩ > 0 且 ⟨ i α | i α ⟩ = - 1 ⟨ α | α ⟩ > 0 .$

在本章的剩余部分里, $F$ 要么代表实数域, 要么代表复数域.

例子1.

F^{n}

上存在一个内积, 我们称之为标准内积. 对于向量

α = (x_{1}, \dots, x_{n})

和

β = (y_{1}, \dots, y_{n})

, 其标准内积被定义为

⟨ α | β ⟩ = \sum_{j = 1}^{n} x_{j} {\overline{y}}_{j} .

当

F = ℝ

时, 这也可以记成

⟨ α | β ⟩ = \sum_{j = 1}^{n} x_{j} y_{j} .

在实数域的情形下, 标准内积常被称为点积或者标量积, 并记为

α \cdot β

例子2. 对于

ℝ^{2}

中的向量

α = (x_{1}, x_{2})

和

β = (y_{1}, y_{2})

, 令

⟨ α | β ⟩ = x_{1} y_{1} - x_{2} y_{1} - x_{1} y_{2} + 4 x_{2} y_{2} .

既然

⟨ α | α ⟩ = {(x_{1} - x_{2})}^{2} + 3 x_{2}^{2}

, 可直接推得

α \neq 0

时有

⟨ α | α ⟩ > 0

. 内积定义中的条件a, b, c则是容易验证的.

例子3. 令

V

是

F^{n \times n}

, 那么

V

以自然的方式同构于

F^{n^{2}}

, 因而由例子1可知

⟨ A | B ⟩ = \sum_{j = 1}^{n} \sum_{k = 1}^{n} A_{j, k} {\overline{B}}_{j, k}

定义了

V

上的一个内积. 而且, 如果我们引入共轭转置矩阵

B^{⁎}

, 其由

B_{k, j}^{⁎} = {\overline{B}}_{j, k}

定义, 那么我们可以基于迹函数来表达内积:

⟨ A | B ⟩ = tr (A B^{⁎}) = tr (B^{⁎} A) .

这是因为

\begin{array}{rcl} tr (A B^{⁎}) & = & \sum_{j = 1}^{n} {(A B^{⁎})}_{j, j} \\ = & \sum_{j = 1}^{n} \sum_{k = 1}^{n} A_{j, k} B_{k, j}^{⁎} \\ = & \sum_{j = 1}^{n} \sum_{k = 1}^{n} A_{j, k} {\overline{B}}_{j, k} \end{array}

例子4. 令

Q \in F^{n \times n}

是一个可逆矩阵, 对于

X, Y \in F^{n \times 1}

, 置

⟨ X | Y ⟩ = Y^{⁎} Q^{⁎} Q X .

注意到我们这里将右边的

1 \times 1

矩阵与其唯一的元素等同起来了. 当

Q

为恒等矩阵时, 这个内积本质上和例子1是相同的, 我们将其称为

F^{n \times 1}

上的标准内积. 读者应该注意到术语"标准内积"在两种特定的上下文中使用. 对于一般的域

F

上的有限维向量空间, 并不存在显然可称之为标准的内积.

例子5. 令

V

是所有类型为

[0, 1] \to ℂ

的连续函数构成的向量空间, 那么

⟨ f | g ⟩ = \int_{0}^{1} f (t) \overline{g (t)} d t

是

V

上的一个内积. 可能读者更熟悉单位区间上的实值连续函数构成的向量空间, 此时

g (t)

上的复共轭是可以省略的.

例子6. 这实际上是一类例子. 读者可以通过以下方法根据已有的内积构造出新的内积来. 令

V

和

W

是域

F

上的向量空间, 设

⟨ | ⟩

是

W

上的一个内积. 如果

T

是一个从

V

到

W

的非奇异线性变换, 那么

p_{T} (α, β) = ⟨ T α | T β ⟩

定义了

V

上的一个内积

p_{T}

. 例子4中的内积可以被视为这个的一种特殊情形, 以下同样也是特殊情形.

令 $V$ 是一个有限维向量空间, 令 $𝔅 = {α_{1}, \dots, α_{n}}$ 是 $V$ 的一个有序基. 令 $ε_{1}, \dots, ε_{n}$ 是 $F^{n}$ 的标准有序基, 令 $T$ 是由 $T α_{j} = ε_{j}, j = 1, \dots, n$ 定义的从 $V$ 到 $F^{n}$ 的线性变换. 换言之, 令 $T$ 是由 $𝔅$ 确定的从 $V$ 到 $F^{n}$ 的"自然"同构. 如果我们取 $F^{n}$ 上的标准内积, 那么 $p_{T} (\sum_{j = 1}^{n} x_{j} α_{j}, \sum_{k = 1}^{n} y_{k} α_{k}) = \sum_{j = 1}^{n} x_{j} {\overline{y}}_{j} .$ 因此, 对于 $V$ 的任意的有序基, 都存在一个具有性质 $⟨ α_{j} | α_{k} ⟩ = δ_{j, k}$ 的内积. 实际上, 很容易表明恰存在一个这样的内积. 之后我们将证明 $V$ 上的每个内积都可根据某个有序基 $𝔅$ 按照以上方式确定.
让我们再次检视例子5, 令 $V$ 是单位区间上的所有连续函数构成的空间, 取 $W = V$ . 令 $T$ 是"乘上 $t$ "的线性算子, 即 $(T f) (t) = t f (t), 0 \leq t \leq 1$ . 容易验证 $T$ 是线性的. 而且, $T$ 也是非奇异的. 这是因为, 设 $T f = 0$ , 那么对于 $0 \leq t \leq 1$ 有 $t f (t) = 0$ , 因而 $t > 0$ 时 $f (t) = 0$ . 鉴于 $f$ 是连续的, 我们也有 $f (0) = 0$ , 于是 $f = 0$ . 现在使用例子5的内积, 我们可以构造 $V$ 上的一个新的内积 $\begin{array}{rcl} p_{T} (f, g) & = & \int_{0}^{1} (T f) (t) \overline{(T g) (t)} d t \\ = & \int_{0}^{1} f (t) \overline{g (t)} t^{2} d t \end{array}$

我们现在开始检视内积的一些一般性质. 设 $V$ 是一个带有内积的复向量空间, 那么对于 $α, β \in V$ , 我们有 $⟨ α | β ⟩ = Re ⟨ α | β ⟩ + i Im ⟨ α | β ⟩$ 其中 $Re ⟨ α | β ⟩$ 和 $Im ⟨ α | β ⟩$ 分别是复数 $⟨ α | β ⟩$ 的实部和虚部. 如果 $z$ 是一个复数, 那么 $Im z = Re (- i z)$ , 这可以推出 $Im ⟨ α | β ⟩ = Re [- i ⟨ α | β ⟩] = Re ⟨ α | i β ⟩ .$ 因此, 按照 $⟨ α | β ⟩ = Re ⟨ α | β ⟩ + i Re ⟨ α | i β ⟩$ 内积完全可由其"实部"确定.

偶尔知道实或复向量空间上的内积可由另一种函数确定是很有用的, 这种函数即所谓的二次形式. 为了定义二次形式, 我们首先以 $‖ α ‖$ 代表 $⟨ α | α ⟩$ 的正平方根; $‖ α ‖$ 被称为 $α$ 相对于内积的范数. 通过考察 $ℝ^{1}, ℂ, ℝ^{2}, ℝ^{3}$ 上由标准内积导出的范数, 读者应该说服自己将 $α$ 的范数想成是 $α$ 的长度是很贴切的. 由内积决定的二次形式是函数 $α \mapsto {‖ α ‖}^{2}$ . 根据内积的性质, 我们可以推出, 对于任意的向量 $α$ 和 $β$ 有 ${‖ α \pm β ‖}^{2} = {‖ α ‖}^{2} \pm 2 Re ⟨ α | β ⟩ + {‖ β ‖}^{2} .$ 因此, 在实数域的情形下, 我们有 $⟨ α | β ⟩ = \frac{1}{4} {‖ α + β ‖}^{2} - \frac{1}{4} {‖ α - β ‖}^{2} .$ 在复数域的情形下, 我们得到的是更复杂的表达式 $⟨ α | β ⟩ = \frac{1}{4} {‖ α + β ‖}^{2} - \frac{1}{4} {‖ α - β ‖}^{2} + \frac{i}{4} {‖ α + i β ‖}^{2} - \frac{i}{4} {‖ α - i β ‖}^{2} .$ 这两个公式都被称为极化恒等式, 我们也应该注意到在复数域的情形下其也可以写成以下形式: $⟨ α | β ⟩ = \frac{1}{4} \sum_{n = 1}^{4} i^{n} {‖ α + i^{n} β ‖}^{2} .$

刚才我们所得到的性质对于任意的实或复向量空间上的内积均成立, 不论其维数如何. 现在我们转向 $V$ 是有限维向量空间的情形. 正如读者可能会猜到的, 有限维向量空间上的内积总是可以基于一个有序基由矩阵刻画.

设 $V$ 是有限维的, 令 $𝔅 = {α_{1}, \dots, α_{n}}$ 是 $V$ 的一个有序基, 并且给定 $V$ 上的一个特定的内积. 我们将表明, 这个内积完全由以下的这些值 $G_{j, k} = ⟨ α_{k} | α_{j} ⟩$ 决定. 如果 $α = \sum_{k = 1}^{n} x_{k} α_{k}$ 且 $β = \sum_{j = 1}^{n} y_{j} α_{j}$ , 那么 $\begin{array}{rcl} ⟨ α | β ⟩ & = & ⟨ \sum_{k = 1}^{n} x_{k} α_{k} | β ⟩ \\ = & \sum_{k = 1}^{n} x_{k} ⟨ α_{k} | β ⟩ \\ = & \sum_{k = 1}^{n} x_{k} \sum_{j = 1}^{n} {\overline{y}}_{j} ⟨ α_{k} | α_{j} ⟩ \\ = & \sum_{j = 1}^{n} \sum_{k = 1}^{n} {\overline{y}}_{j} G_{j, k} x_{k} \\ = & Y^{⁎} G X \end{array}$ 其中 $X$ 和 $Y$ 分别是 $α$ 和 $β$ 在有序基 $𝔅$ 下的坐标矩阵, 而 $G$ 是以 $G_{j, k} = ⟨ α_{k} | α_{j} ⟩$ 为元素的矩阵. 我们称 $G$ 为内积在有序基 $𝔅$ 下的矩阵. 根据定义, $G$ 是一个Hermite矩阵, 即 $G = G^{⁎}$ . 然而, $G$ 是一种相当特殊的Hermite矩阵, 因为其必须满足附加的条件 $X^{⁎} G X > 0, X \neq 0 .$ 特别地, $G$ 必须是可逆的. 否则的话, 存在一个 $X \neq 0$ 使得 $G X = 0$ , 那么对于这样的 $X$ 就不能满足以上要求了. 更显式地说, 以上的条件即对于任意不全为零的标量 $x_{1}, \dots, x_{n}$ 有 $\sum_{j = 1}^{n} \sum_{k = 1}^{n} {\overline{x}}_{j} G_{j, k} x_{k} > 0 .$ 从中我们立即可以看出 $G$ 的每个对角线元素都必然是正数. [译注: 提及正数, 一定是实数.] 然而, 这个施加于对角线元素上的条件并不足以保证 $X^{⁎} G X > 0, X \neq 0$ , 之后我们将给出使其成立的充分条件. [译注: 这个施加于Hermite矩阵上的条件一般被称为"正定"条件.]

以上这样的过程是可逆的, 即若任意的Hermite矩阵 $G \in F^{n \times n}$ 满足 $X^{⁎} G X > 0, X \neq 0$ , 那么 $G$ 是 $V$ 上的一个内积在有序基 $𝔅$ 下的矩阵. 这个内积是由公式 $⟨ α | β ⟩ = Y^{⁎} G X$ 给定的, 其中 $X$ 和 $Y$ 分别是 $α$ 和 $β$ 在有序基 $𝔅$ 下的坐标矩阵.

练习1. 令

V

是一个向量空间而

⟨ | ⟩

是

V

上的一个内积.

证明对于任意的 $β \in V$ 有 $⟨ 0 | β ⟩ = 0$ .
证明若对于任意的 $β \in V$ 有 $⟨ α | β ⟩ = 0$ , 那么 $α = 0$ .

练习2. 令

V

是域

F

上的一个向量空间. 证明

V

上的两个内积之和仍然是

V

上的一个内积. 两个内积之差是内积吗? 证明一个内积的正倍数仍然是一个内积.

练习3. 显式描述

ℝ^{1}

和

ℂ^{1}

上的所有内积.

练习4. 验证

F^{n}

上的标准内积的确是一个内积.

练习5. 令

⟨ | ⟩

是

ℝ^{2}

上的标准内积.

令 $α = (1, 2), β = (- 1, 1)$ , 如果向量 $γ$ 满足 $⟨ α | γ ⟩ = - 1$ 且 $⟨ β | γ ⟩ = 3$ , 求出 $γ$ .
证明对于任意的 $α \in ℝ^{2}$ , 我们有 $α = ⟨ α | ε_{1} ⟩ ε_{1} + ⟨ α | ε_{2} ⟩ ε_{2}$ .

练习6. 令

⟨ | ⟩

是

ℝ^{2}

上的标准内积, 而

T (x_{1}, x_{2}) = (- x_{2}, x_{1})

是

ℝ^{2}

上的线性算子. 现在

T

是"逆时针旋转90度"的变换, 并且对于所有的

α \in ℝ^{2}

, 都有

⟨ α | T α ⟩ = 0

. 找出所有这样的

ℝ^{2}

上的内积

[|]

, 其对于每个向量

α

有

[α | T α] = 0

练习7. 令

⟨ | ⟩

是

ℂ^{2}

上的标准内积, 证明不存在非零的

ℂ^{2}

上的线性算子

T

使得对于每个

α \in ℂ^{2}

有

⟨ α | T α ⟩ = 0

. 推广这个结果.

练习8. 令

A \in ℝ^{2 \times 2}

, 定义映射

f_{A} : ℝ^{2 \times 1} \times ℝ^{2 \times 1} \to ℝ

为

f_{A} (X, Y) = Y^{t} A X .

证明

f_{A}

是

ℝ^{2 \times 1}

上的一个内积当且仅当

A = A^{t}, A_{1, 1} > 0, A_{2, 2} > 0, \det (A) > 0

练习9. 令

V

是一个带有的内积的实或复向量空间, 证明由内积确定的范数满足平行四边形定律

{‖ α + β ‖}^{2} + {‖ α - β ‖}^{2} = 2 {‖ α ‖}^{2} + 2 {‖ β ‖}^{2} .

练习10. 找出例子2中的内积在

ℝ^{2}

的标准有序基下的矩阵.

练习11. 证明公式

⟨ \sum_{j = 0}^{l} a_{j} x^{j} | \sum_{k = 0}^{m} b_{k} x^{k} ⟩ = \sum_{j = 0}^{l} \sum_{k = 0}^{m} \frac{a_{j} b_{k}}{j + k + 1}

定义了

ℝ [x]

上的一个内积. 令

W

是次数小于等于

n

的多项式构成的子空间. 限制以上内积于

W

, 找出其相对于有序基

{1, x, x^{2}, \dots, x^{n}}

的矩阵. (提示: 为了表明这个公式的确定义了一个内积, 观察到

⟨ f | g ⟩ = \int_{0}^{1} f (t) g (t) d t

然后处理这个积分表达式.)

练习12. 令

V

是一个有限维向量空间,

𝔅 = {α_{1}, \dots, α_{n}}

是

V

的一个有序基,

⟨ | ⟩

是

V

上的一个内积. 如果

c_{1}, \dots, c_{n}

是任意的

n

个标量, 那么恰存在一个向量

α \in V

使得

⟨ α | α_{j} ⟩ = c_{j}, j = 1, \dots, n

练习13. 令

V

是一个复向量空间. 一个函数

J : V \to V

被称为一个共轭 (conjugation), 如果

J (α + β) = J (α) + J (β), J (c α) = \overline{c} J (α), J (J (α)) = α

, 其中

c

是任意的标量而

α, β \in V

. 如果

J

是一个共轭, 证明:

$W = {α \in V | J α = α}$ 相对于 $V$ 中所定义的运算可以被视为域 $ℝ$ 上的一个向量空间.
对于每个 $α \in V$ , 存在唯一的向量 $β, γ \in W$ 使得 $α = β + i γ$ .

练习14. 令

V

是一个复向量空间,

W

是一个满足以下性质的

V

的子集:

相对于 $V$ 中所定义的运算, $W$ 可以被视为一个实向量空间.
对于每个 $α \in V$ , 存在唯一的向量 $β, γ \in W$ 满足 $α = β + i γ$ .

证明

J α = β - i γ

定义了

V

上的一个共轭, 其满足

J α = α

当且仅当

α \in W

. 另外, 证明

J

是

V

上唯一带有此性质的共轭.

练习15. 找出

ℂ^{1}

和

ℂ^{2}

上的所有共轭.

练习16. 令

W

是复向量空间

V

的一个有限维实子空间. 证明

W

满足练习14的条件b当且仅当

W

的每个基也是

V

的一个基.

练习17. 令

V

是一个复向量空间,

J

是

V

上的一个共轭,

W = {α \in V | J α = α}

是

V

的一个实子空间,

f

是

W

上的一个内积, 证明:

存在唯一的 $V$ 上的内积 $g$ 使得对于任意的 $α, β \in W$ 有 $g (α, β) = f (α, β)$ .
对于所有的 $α, β \in V$ , $g (J α, J β) = g (β, α)$ .

以上的部分a是在说

ℝ^{1}

和

ℂ^{1}

(或者

ℝ^{n}

和

ℂ^{n}

) 上的标准内积之间的什么关系?

第8.2节内积空间

既然现在我们已经对于内积有所了解, 那么我们将注意力转移到向量空间与其上的某个特定内积结合产生的代数结构上来. 具体来说, 我们将建立由内积赋予向量空间的"长度"和"正交性"的概念的基本性质.

定义. 一个内积空间是一个其上带有特定内积的实或复向量空间.

一个有限维的实内积空间常被称为一个Euclid空间. 一个复内积空间经常被称为一个酉空间.

定理1. 如果

V

是一个内积空间, 那么对于任意的向量

α, β \in V

和标量

c

, 我们有

$‖ c α ‖ = | c | ‖ α ‖$ ;
对于 $α \neq 0$ , $‖ α ‖ > 0$ ;
$| ⟨ α | β ⟩ | \leq ‖ α ‖ ‖ β ‖$ ;
$‖ α + β ‖ \leq ‖ α ‖ + ‖ β ‖$ .

证明. 陈述i和ii几乎可由定义直接推出. iii中的不等式在

α = 0

时是显然成立的. 若

α \neq 0

, 置

γ = β - \frac{⟨ β | α ⟩}{{‖ α ‖}^{2}} α

那么

⟨ γ | α ⟩ = 0

, 然后

\begin{array}{rcl} 0 \leq {‖ γ ‖}^{2} & = & ⟨ β - \frac{⟨ β | α ⟩}{{‖ α ‖}^{2}} α | β - \frac{⟨ β | α ⟩}{{‖ α ‖}^{2}} α ⟩ \\ = & ⟨ β | β ⟩ - \frac{⟨ β | α ⟩ ⟨ α | β ⟩}{{‖ α ‖}^{2}} \\ = & ⟨ β | β ⟩ - \frac{{| ⟨ α | β ⟩ |}^{2}}{{‖ α ‖}^{2}} \end{array}

因此,

{| ⟨ α | β ⟩ |}^{2} \leq {‖ α ‖}^{2} {‖ β ‖}^{2}

, 再开根即可. 现在使用iii, 我们可以推出

\begin{array}{rcl} {‖ α + β ‖}^{2} & = & {‖ α ‖}^{2} + 2 Re ⟨ α | β ⟩ + {‖ β ‖}^{2} \\ \leq & {‖ α ‖}^{2} + 2 | ⟨ α | β ⟩ | + {‖ β ‖}^{2} \\ \leq & {‖ α ‖}^{2} + 2 ‖ α ‖ ‖ β ‖ + {‖ β ‖}^{2} \\ = & {(‖ α ‖ + ‖ β ‖)}^{2} \end{array}

于是,

‖ α + β ‖ \leq ‖ α ‖ + ‖ β ‖

◻

iii被称为Cauchy-Schwarz不等式, 其有着各种各样的应用. 根据刚才我们的证明, 如果 $α \neq 0$ , 那么除非 $β = \frac{⟨ β | α ⟩}{{‖ α ‖}^{2}} α$ 该不等式严格成立. 也就是说, Cauchy-Schwarz不等式取等号当且仅当 $α$ 和 $β$ 线性相关.

译者注记. 以上对于Cauchy-Schwarz不等式的证明看似复杂, 实则在某种意义上有着简单的几何解释. 例如, 在

ℝ^{2}

及其上的标准内积下, 很容易看出来

\frac{⟨ β | α ⟩}{{‖ α ‖}^{2}} α

是

β

在

α

上的垂直投影,

⟨ γ | α ⟩ = 0

就是对于垂直的表述, 而

{‖ γ ‖}^{2} = ⟨ β | β ⟩ - \frac{{| ⟨ α | β ⟩ |}^{2}}{{‖ α ‖}^{2}}

差不多就是勾股定理/Pythagoras定理的一个应用.

例子7. 如果我们将Cauchy-Schwarz不等式应用于例子1, 2, 3, 5中给出的内积, 那么我们就会得到以下结果:

$| \sum_{k = 1}^{n} x_{k} {\overline{y}}_{k} | \leq {(\sum_{k = 1}^{n} {| x_{k} |}^{2})}^{\frac{1}{2}} {(\sum_{k = 1}^{n} {| y_{k} |}^{2})}^{\frac{1}{2}}$
$| x_{1} y_{1} - x_{2} y_{1} - x_{1} y_{2} + 4 x_{2} y_{2} | \leq {({(x_{1} - x_{2})}^{2} + 3 x_{2}^{2})}^{1 / 2} {({(y_{1} - y_{2})}^{2} + 3 y_{2}^{2})}^{1 / 2}$
$| tr (A B^{⁎}) | \leq {(tr (A A^{⁎}))}^{1 / 2} {(tr (B B^{⁎}))}^{1 / 2}$
$| \int_{0}^{1} f (t) \overline{g (t)} d t | \leq {(\int_{0}^{1} {| f (t) |}^{2} d t)}^{\frac{1}{2}} {(\int_{0}^{1} {| g (t) |}^{2} d t)}^{\frac{1}{2}}$

定义. 令

α

和

β

是内积空间

V

中的向量, 那么

α

正交于

β

, 如果

⟨ α | β ⟩ = 0

. 既然这能推出

β

正交于

α

, 我们常就简单说

α

和

β

是正交的. 对于

V

的一个子集

S

, 我们称

S

是一个正交集合, 若其中不同向量之间均是正交的. 如果对于正交集合

S

的每个向量

α

有

‖ α ‖ = 1

, 那么我们就称

S

是一个规范正交集合.

零向量正交于 $V$ 中的每个向量, 而且是唯一具有此性质的向量. 另外, 读者应该将规范正交集合想成是由长度为 $1$ 且相互垂直的向量构成的集合.

例子8.

ℝ^{n}

的标准基相对于其上的标准内积是一个规范正交集合,

ℂ^{n}

也是如此.

例子9.

ℝ^{2}

中的向量

(x, y)

相对于标准内积与

(- y, x)

正交, 因为

⟨ (x, y) | (- y, x) ⟩ = - x y + y x = 0 .

然而, 如果

ℝ^{2}

装备的是例子2中的内积, 那么

(x, y)

和

(- y, x)

正交当且仅当

y = \frac{- 3 \pm \sqrt{13}}{2} x .

例子10. 令

V

是

ℂ^{n \times n}

E^{p, q}

是仅第

p

行

q

列为

1

其余均为

0

的矩阵, 那么所有这样的矩阵

E^{p, q}

构成的集合相对于例子3中给出的内积是规范正交的, 因为

⟨ E^{p, q} | E^{r, s} ⟩ = tr (E^{p, q} E^{s, r}) = δ_{q, s} tr (E^{p, r}) = δ_{q, s} δ_{p, r} .

例子11. 令

V

是区间

[0, 1]

上的连续复值 (或者实值) 函数构成的向量空间, 并定义其上的内积为

⟨ f | g ⟩ = \int_{0}^{1} f (t) \overline{g (t)} d t .

设

f_{n} (x) = \sqrt{2} \cos 2 π n x

且

g_{n} (x) = \sqrt{2} \sin 2 π n x

, 那么

{1, f_{1}, g_{1}, f_{2}, g_{2}, \dots}

构成了一个无穷的规范正交集合. 在复情形下, 我们也可以构造以下线性组合

\frac{1}{\sqrt{2}} (f_{n} \pm i g_{n}), n = 1, 2, \dots

以这种方式, 我们构造了一个新的规范正交集合

S

, 其由所有具有形式

h_{n} (x) = e^{2 π i n x}, n = \pm 1, \pm 2, \dots

的函数构成. 将常函数

1

加入

S

得到的集合

S^{'}

也是规范正交的. 我们假定读者熟悉以上内容所牵涉的积分计算.

以上例子给出的规范正交集合均是线性无关的, 现在我们将表明诚然如此.

定理2. 由非零向量构成的正交集合是线性无关的.

证明. 令

S

是某给定内积空间中由非零向量构成的有限或无限的正交集合, 设

α_{1}, α_{2}, \dots, α_{m}

是

S

中的不同向量, 并且

β = c_{1} α_{1} + c_{2} α_{2} + \dots + c_{m} α_{m}

那么

\begin{array}{rcl} ⟨ β | α_{k} ⟩ & = & ⟨ \sum_{j = 1}^{m} c_{j} α_{j} | α_{k} ⟩ \\ = & \sum_{j = 1}^{m} c_{j} ⟨ α_{j} | α_{k} ⟩ \\ = & c_{k} ⟨ α_{k} | α_{k} ⟩ \end{array}

既然

⟨ α_{k} | α_{k} ⟩ \neq 0

, 这可以推出

c_{k} = \frac{⟨ β | α_{k} ⟩}{{‖ α_{k} ‖}^{2}}, 1 \leq k \leq m .

因此, 当

β = 0

时, 每个

c_{k} = 0

, 即

S

是线性无关的集合.

◻

推论. 如果一个向量

β

是由非零向量

α_{1}, \dots, α_{m}

构成的一个正交序列的线性组合, 那么

β

必然是以下特定的线性组合

β = \sum_{k = 1}^{m} \frac{⟨ β | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} α_{k} .

以上的推论是定理的证明的直接结果. 另外, 还有一个应该提及的显然推论. 如果 ${α_{1}, \dots, α_{m}}$ 是某个有限维内积空间 $V$ 中由非零向量构成的正交集合, 那么 $m \leq \dim V$ . 这是在说 $V$ 中相互正交的方向的数目不可能超过 $V$ 的由代数定义的维数. $V$ 中相互正交的方向的最大数目可以被理解为 $V$ 的几何维数, 并且我们刚才看到其不会大于代数维数. 这两种维数相等的事实是以下结果的一个特定推论.

定理3. 令

V

是一个内积空间, 而

β_{1}, \dots, β_{n}

是

V

中线性无关的向量, 那么我们可以构造

V

中相互正交的向量

α_{1}, \dots, α_{n}

使得对于每个

k = 1, 2, \dots, n

, 集合

{α_{1}, \dots, α_{k}}

是由

β_{1}, \dots, β_{k}

张成的子空间的一个基.

证明. 向量

α_{1}, \dots, α_{n}

可由一种被称为Gram-Schmidt正交化过程的构造方式得到. 首先, 令

α_{1} = β_{1}

, 而其他向量则按以下方法由归纳给定: 设已经挑选了

α_{1}, \dots, α_{m}

使得对于每个

k

有

{α_{1}, \dots, α_{k}}, 1 \leq k \leq m

是由

β_{1}, \dots, β_{k}

张成的

V

的子空间的一个正交基, 其中

1 \leq m < n

. 为了构造下一个向量

α_{m + 1}

, 令

α_{m + 1} = β_{m + 1} - \sum_{k = 1}^{m} \frac{⟨ β_{m + 1} | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} α_{k}

那么

α_{m + 1} \neq 0

, 因为否则的话

β_{m + 1}

就是

α_{1}, \dots, α_{m}

的线性组合了, 也就是

β_{1}, \dots, β_{m}

的线性组合. 而且, 如果

1 \leq j \leq m

, 那么

\begin{array}{rcl} ⟨ α_{m + 1} | α_{j} ⟩ & = & ⟨ β_{m + 1} | α_{j} ⟩ - \sum_{k = 1}^{m} \frac{⟨ β_{m + 1} | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} ⟨ α_{k} | α_{j} ⟩ \\ = & ⟨ β_{m + 1} | α_{j} ⟩ - ⟨ β_{m + 1} | α_{j} ⟩ \\ = & 0 \end{array}

因此,

{α_{1}, \dots, α_{m + 1}}

是由

m + 1

个非零向量构成的正交集合, 并且它们都在由

β_{1}, \dots, β_{m + 1}

张成的子空间之中. 根据定理2, 其的确是该子空间的一个基. 换言之, 向量

α_{1}, \dots, α_{n}

可按以上公式一个接着一个地构造出来. 特别地, 当

n = 4

时, 我们有

\begin{array}{l} α_{1} & = & β_{1} \\ α_{2} & = & β_{2} - \frac{⟨ β_{2} | α_{1} ⟩}{{‖ α_{1} ‖}^{2}} α_{1} \\ α_{3} & = & β_{3} - \frac{⟨ β_{3} | α_{1} ⟩}{{‖ α_{1} ‖}^{2}} α_{1} - \frac{⟨ β_{3} | α_{2} ⟩}{{‖ α_{2} ‖}^{2}} α_{2} \\ α_{4} & = & β_{4} - \frac{⟨ β_{4} | α_{1} ⟩}{{‖ α_{1} ‖}^{2}} α_{1} - \frac{⟨ β_{4} | α_{2} ⟩}{{‖ α_{2} ‖}^{2}} α_{2} - \frac{⟨ β_{4} | α_{3} ⟩}{{‖ α_{3} ‖}^{2}} α_{3} \end{array}

◻

推论. 每个有限维内积空间都拥有一个规范正交基.

证明. 令

V

是一个有限维内积空间, 而

{β_{1}, \dots, β_{n}}

是

V

的一个基. 应用Gram-Schmidt过程, 我们可以构造一个正交基

{α_{1}, \dots, α_{n}}

. 那么, 为了获得一个规范正交基, 我们仅需将每个向量

α_{k}

替换以

α_{k} / ‖ α_{k} ‖

就够了.

◻

规范正交基相较于其他任意的基的一个主要优势在于牵涉坐标的计算会更加简单. 为了澄清这个断言, 设 $V$ 是一个有限维内积空间. 那么, 根据上一节的讨论, 我们可以构造这个内积相对于 $V$ 的某个有序基 $𝔅 = {α_{1}, \dots, α_{n}}$ 的矩阵 $G$ , 其由 $G_{j, k} = ⟨ α_{k} | α_{j} ⟩$ 定义, 然后便可基于坐标来计算内积. 若 $𝔅$ 是一个规范正交基, 那么 $G$ 就是恒等矩阵, 而对于任意的标量 $x_{j}$ 和 $y_{k}$ , 我们有 $⟨ \sum_{j = 1}^{n} x_{j} α_{j} | \sum_{k = 1}^{n} y_{k} α_{k} ⟩ = \sum_{j = 1}^{n} x_{j} {\overline{y}}_{j}$ 因此, 基于规范正交基, $V$ 中的内积看起来就像是 $F^{n}$ 中的标准内积.

尽管实际计算上的用途有限, 但有趣的是, Gram-Schmidt过程也可以用来判定是否线性相关. 设 $β_{1}, \dots, β_{n}$ 是 $V$ 中线性相关的向量, 排除 $β_{1} = 0$ 的平凡情况. [译注: 其实不排除也可以, 只是对于极端情况需要一些说明.] 令 $m$ 是使得 $β_{1}, \dots, β_{m}$ 能够线性无关的最大整数, 那么 $1 \leq m < n$ . 若 $α_{1}, \dots, α_{m}$ 是施行正交化过程于 $β_{1}, \dots, β_{m}$ 得到的向量, 那么 $α_{m + 1} = β_{m + 1} - \sum_{k = 1}^{m} \frac{⟨ β_{m + 1} | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} α_{k}$ 必然为 $0$ . 这是因为, $α_{m + 1}$ 在由 $α_{1}, \dots, α_{m}$ 张成的子空间之中并且正交于这些向量, 因而根据定理2的推论可知 $α_{m + 1} = 0$ . 也就是说, $β_{m + 1}$ 是 $α_{1}, \dots, α_{m}$ 的线性组合, 即 $β_{1}, \dots, β_{m}$ 的线性组合, 那么 $β_{1}, \dots, β_{m + 1}$ 是线性相关的.

译者注记. 上一段的内容告诉我们, 即便为了施行Gram-Schmidt正交化过程, 也无需提前判断出

β_{1}, \dots, β_{n}

是线性无关的. 这是因为, 在正交化的过程中, 一旦遇到某个

α_{k} = 0

, 那么便可知

β_{1}, \dots, β_{k}

线性相关. 而若正交化过程结束也没有出现哪个

α_{k} = 0

, 就可以断言

β_{1}, \dots, β_{n}

线性无关.

例子12. 对于装备有标准内积的

ℝ^{3}

, 考虑向量

β_{1} = (3, 0, 4), β_{2} = (- 1, 0, 7), β_{3} = (2, 9, 11)

施行Gram-Schmidt过程于

β_{1}, β_{2}, β_{3}

, 我们就得到了以下向量.

\begin{array}{l} α_{1} & = & (3, 0, 4) \\ α_{2} & = & (- 1, 0, 7) - \frac{⟨ (- 1, 0, 7) | (3, 0, 4) ⟩}{25} (3, 0, 4) \\ = & (- 1, 0, 7) - (3, 0, 4) \\ = & (- 4, 0, 3) \\ α_{3} & = & (2, 9, 11) - \frac{⟨ (2, 9, 11) | (3, 0, 4) ⟩}{25} (3, 0, 4) - \frac{⟨ (2, 9, 11) | (- 4, 0, 3) ⟩}{25} (- 4, 0, 3) \\ = & (2, 9, 11) - 2 (3, 0, 4) - (- 4, 0, 3) \\ = & (0, 9, 0) \end{array}

这些向量显然是非零的且相互正交, 因而

{α_{1}, α_{2}, α_{3}}

是

ℝ^{3}

的一个正交基. 为了将

ℝ^{3}

中任意的向量

(x_{1}, x_{2}, x_{3})

表达为

α_{1}, α_{2}, α_{3}

的线性组合, 我们无需求解任何线性方程组, 运用定理2的推论即可. 因此, 我们就有

(x_{1}, x_{2}, x_{3}) = \frac{3 x_{1} + 4 x_{3}}{25} α_{1} + \frac{- 4 x_{1} + 3 x_{3}}{25} α_{2} + \frac{x_{2}}{9} α_{3} .

例如,

(1, 2, 3)

可以被表示为线性组合

(1, 2, 3) = \frac{3}{5} (3, 0, 4) + \frac{1}{5} (- 4, 0, 3) + \frac{2}{9} (0, 9, 0) .

实际上, 我们可以换个角度陈述以上的结果: 对偶于基

{α_{1}, α_{2}, α_{3}}

的

{(ℝ^{3})}^{⁎}

的基

{f_{1}, f_{2}, f_{3}}

可由以下公式所显式定义

\begin{array}{l} f_{1} (x_{1}, x_{2}, x_{3}) & = & \frac{3 x_{1} + 4 x_{3}}{25} \\ f_{2} (x_{1}, x_{2}, x_{3}) & = & \frac{- 4 x_{1} + 3 x_{3}}{25} \\ f_{3} (x_{1}, x_{2}, x_{3}) & = & \frac{x_{2}}{9} \end{array}

当然, 这些公式可以写成以下更为一般的形式

f_{j} (x_{1}, x_{2}, x_{3}) = \frac{⟨ (x_{1}, x_{2}, x_{3}) | α_{j} ⟩}{{‖ α_{j} ‖}^{2}} .

最后一点, 注意到从

α_{1}, α_{2}, α_{3}

中我们可以得到规范正交基

\frac{1}{5} (3, 0, 4), \frac{1}{5} (- 4, 0, 3), (0, 1, 0) .

例子13. 令

A = [\begin{matrix} a & b \\ c & d \end{matrix}]

是一个复矩阵, 置

β_{1} = (a, b)

和

β_{2} = (c, d)

, 并设

β_{1} \neq 0

. 如果我们使用

ℂ^{2}

上的标准内积对于

β_{1}, β_{2}

施行正交化过程, 就会得到以下向量:

\begin{array}{rcl} α_{1} & = & (a, b) \\ α_{2} & = & (c, d) - \frac{⟨ (c, d) | (a, b) ⟩}{{| a |}^{2} + {| b |}^{2}} (a, b) \\ = & (c, d) - \frac{c \overline{a} + d \overline{b}}{{| a |}^{2} + {| b |}^{2}} (a, b) \\ = & (\frac{c \overline{b} b - d \overline{b} a}{{| a |}^{2} + {| b |}^{2}}, \frac{d \overline{a} a - c \overline{a} b}{{| a |}^{2} + {| b |}^{2}}) \\ = & \frac{\det A}{{| a |}^{2} + {| b |}^{2}} (- \overline{b}, \overline{a}) \end{array}

之前的一般理论告诉我们

α_{2} \neq 0

当且仅当

β_{1}, β_{2}

线性无关. 另一方面,

α_{2}

的公式告诉我们

α_{2} \neq 0

当且仅当

\det A \neq 0

从本质上说, Gram-Schmidt过程就是不断重复应用一种被称为正交投影的基本几何操作. 并且, 从这一角度理解正交化过程最为恰当. 在解决近似问题时, 正交投影也会自然出现.

设 $W$ 是内积空间 $V$ 的一个子空间, 令 $β$ 是 $V$ 中的任意一个向量. 我们的问题在于找出 $W$ 中对于 $β$ 的最佳的可能近似. 这意味着在向量 $α$ 属于 $W$ 的限制下寻找使得 $‖ β - α ‖$ 尽可能小的向量 $α$ . 让我们用更加精确的语言来陈述这件事情.

以 $W$ 中的向量对于 $β$ 进行的最佳近似是这样一个向量 $α \in W$ , 其满足对于每个向量 $γ \in W$ , 我们都有 $‖ β - α ‖ \leq ‖ β - γ ‖ .$

通过检视这个问题在 $ℝ^{2}$ 或者 $ℝ^{3}$ 中的情况, 读者从直觉上可以感受到以 $W$ 的向量对于 $β$ 的最佳近似应该是使得 $β - α$ 垂直 (或者说正交) 于 $W$ 的向量 $α$ . 而且, 这样的 $α$ 应该恰只有一个. 这些直觉性的想法对于有限维子空间是正确的, 而仅对于部分而不是全部的无限维子空间成立. 鉴于精确的情况太过复杂而难以在这里处理, 我们将只证明以下的结果.

定理4. 令

W

是内积空间

V

的一个子空间, 并设

β

是

V

中的一个向量.

向量 $α \in W$ 是以 $W$ 中的向量对于 $β$ 进行的最佳近似当且仅当 $β - α$ 正交于 $W$ 中的每个向量.
如果以 $W$ 的向量对于 $β$ 进行的最佳近似存在, 那么其是唯一的.
如果 $W$ 是有限维的并且 ${α_{1}, \dots, α_{n}}$ 是 $W$ 的任意的正交基, 那么向量 $α = \sum_{k = 1}^{n} \frac{⟨ β | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} α_{k}$ 是以 $W$ 的向量对于 $β$ 的(唯一的)最佳近似.

证明. 首先, 注意到如果

γ

是

V

中的任意向量, 那么

β - γ = (β - α) + (α - γ)

, 而且

{‖ β - γ ‖}^{2} = {‖ β - α ‖}^{2} + 2 Re ⟨ β - α | α - γ ⟩ + {‖ α - γ ‖}^{2} .

现在设

β - α

正交于

W

中的每个向量, 如果

γ \in W

且

γ \neq α

, 那么既然

α - γ \in W

, 我们可以推出

\begin{array}{rcl} {‖ β - γ ‖}^{2} & = & {‖ β - α ‖}^{2} + {‖ α - γ ‖}^{2} \\ > & {‖ β - α ‖}^{2} \end{array}

反过来, 设对于每个

γ \in W

有

‖ β - γ ‖ \geq ‖ β - α ‖

, 那么根据上面的第一个等式, 这可以推出

2 Re ⟨ β - α | α - γ ⟩ + {‖ α - γ ‖}^{2} \geq 0

对于每个

γ \in W

成立. 鉴于

{α - γ | γ \in W} = W

, 实际上其等价于

2 Re ⟨ β - α | τ ⟩ + {‖ τ ‖}^{2} \geq 0

对于每个

τ \in W

成立. 对于非零的

τ \in W

, 我们可以构造向量

φ = - \frac{⟨ β - α | τ ⟩}{{‖ τ ‖}^{2}} τ \in W

代入即得

\begin{array}{rcl} 2 Re ⟨ β - α | φ ⟩ + {‖ φ ‖}^{2} & = & 2 Re ⟨ β - α | - \frac{⟨ β - α | τ ⟩}{{‖ τ ‖}^{2}} τ ⟩ + {‖ - \frac{⟨ β - α | τ ⟩}{{‖ τ ‖}^{2}} τ ‖}^{2} \\ = & - 2 \frac{{| ⟨ β - α | τ ⟩ |}^{2}}{{‖ τ ‖}^{2}} + \frac{{| ⟨ β - α | τ ⟩ |}^{2}}{{‖ τ ‖}^{2}} \\ = & - \frac{{| ⟨ β - α | τ ⟩ |}^{2}}{{‖ τ ‖}^{2}} \\ \geq & 0 \end{array}

于是,

⟨ β - α | τ ⟩ = 0

. 换言之,

β - α

正交于

W

中的每个向量. 到目前为止, 我们完成了对于i的证明. 不过, 根据上面的讨论, 若存在

W

中的向量满足最佳近似的条件, 那么显然至多只有一个这样的向量. 也就是说, ii的确成立.
现在设

W

是

V

的一个有限维子空间, 那么我们知道, 根据定理3,

W

的确拥有正交基. 令

{α_{1}, \dots, α_{n}}

是

W

的任意的正交基, 按照iii的方式定义

α

. 然后, 根据定理3的证明中的计算, 我们知道

β - α

正交于每个

α_{k}

. 换言之,

β - α

正交于

W

中的每个向量. 根据已经证明了的i, 我们可以断言

α

是以

W

中的向量对于

β

的最佳近似.

◻

定义. 令

V

是一个内积空间,

S

是

V

的一个子集, 那么

S

的正交补被定义为

S^{⊥} = {β \in V | 对于每个 α \in S, ⟨ β | α ⟩ = 0} .

$V$ 的正交补是零子空间. 反过来, ${0}^{⊥} = V$ . 如果 $S$ 是 $V$ 的任意子集, 那么其正交补 $S^{⊥}$ 总是 $V$ 的子空间. 这是因为, 首先 $S^{⊥}$ 是非空的, 鉴于其总是包含 $0$ ; 其次, 每当 $α, β \in S^{⊥}$ 而 $c$ 是任意的标量, 对于每个 $γ \in S$ , 我们有 $\begin{array}{rcl} ⟨ c α + β | γ ⟩ & = & c ⟨ α | γ ⟩ + ⟨ β | γ ⟩ \\ = & c 0 + 0 \\ = & 0 \end{array}$ 因而 $c α + β \in S^{⊥}$ . 在定理4中, 最佳近似 $α$ 的特征性质在于其是 $W$ 中唯一使得 $β - α \in W^{⊥}$ 的向量.

定义. 每当定理4中的向量

α

存在, 其被称为 $β$ 在 $W$ 上的正交投影. 如果

V

中的每个向量都在

W

上具有正交投影, 那么赋

V

的向量以其在

W

上的正交投影的确是一个映射, 这被称为 $V$ 在 $W$ 上的正交投影.

根据定理4, 内积空间在有限维子空间上的正交投影总是存在的. 但是, 定理4也能推出以下结果.

推论. 令

V

是一个内积空间,

W

是其一个有限维子空间,

E

是

V

在

W

上的正交投影, 那么映射

β \mapsto β - E β

是

V

在

W^{⊥}

上的正交投影.

证明. 对于任意的向量

β \in V

, 根据

E

的定义和定理4, 我们知道

β - E β \in W^{⊥}

. 然后, 既然

β - (β - E β) = E β \in W

而又根据

W^{⊥}

的定义,

W

中的向量总是正交于

W^{⊥}

的每个向量, 于是

β - (β - E β)

也正交于

W^{⊥}

的每个向量. 换言之,

β \mapsto β - E β

是

V

在

W^{⊥}

上的正交投影.

◻

例子14. 给定装备有标准内积的

ℝ^{3}

, 那么

(- 10, 2, 8)

在由

(3, 12, - 1)

张成的子空间

W

上的正交投影为

\begin{array}{rcl} α & = & \frac{⟨ (- 10, 2, 8) | (3, 12, - 1) ⟩}{{‖ (3, 12, - 1) ‖}^{2}} (3, 12, - 1) \\ = & \frac{- 14}{154} (3, 12, - 1) \end{array}

ℝ^{3}

在

W

上的正交投影

E

为

(x_{1}, x_{2}, x_{3}) \mapsto \frac{3 x_{1} + 12 x_{2} - x_{3}}{154} (3, 12, - 1) .

E

的秩显然为

1

, 因而

E

的零化度为

2

. 另一方面,

E (x_{1}, x_{2}, x_{3}) = (0, 0, 0)

当且仅当

3 x_{1} + 12 x_{2} - x_{3} = 0

, 而这等价于

(x_{1}, x_{2}, x_{3}) \in W^{⊥}

. 因此,

W^{⊥}

是

E

的零空间, 而

\dim W^{⊥} = 2

. 通过计算

(x_{1}, x_{2}, x_{3}) - \frac{3 x_{1} + 12 x_{2} - x_{3}}{154} (3, 12, - 1)

我们知道

ℝ^{3}

在

W^{⊥}

上的正交投影

I - E

为

(x_{1}, x_{2}, x_{3}) \mapsto \frac{1}{154} (145 x_{1} - 36 x_{2} + 3 x_{3}, - 36 x_{1} + 10 x_{2} + 12 x_{3}, 3 x_{1} + 12 x_{2} + 153 x_{3})

例子14中的观察将以如下形式得到泛化.

定理5. 令

W

是内积空间

V

的一个有限维子空间, 设

E

是

V

在

W

上的正交投影, 那么

E

是

V

上的一个幂等线性算子. 而且,

W

是

E

的像,

W^{⊥}

是

E

的零空间, 于是

V = W \oplus W^{⊥} .

证明. 对于每个

β \in V

, 既然

E β \in W

, 那么

E (E β) = E β

是显然的. 换言之,

E^{2} = E

, 即

E

是幂等的. 现在我们需要证明

E

是线性的. 对于

α, β \in V

, 我们知道

α - E α, β - E β \in W^{⊥}

. 设

c

是任意的标量, 那么

c (α - E α) + (β - E β) = (c α + β) - (c E α + E β) \in W^{⊥}

其中

c E α + E β \in W

. 换言之, 即

E (c α + β) = c E α + E β

, 由此

E

是线性算子.
只需稍微检视一下正交投影的定义, 便可知

E

的像是

W

. 另外, 根据定理4的推论,

I - E

是

V

在

W^{⊥}

上的正交投影. 而且,

I - E

的像是

W^{⊥}

. 现在让我们回忆一下第6章的定理9及其之前的讨论, 就知道

E

的零空间是

W^{⊥}

, 于是

V = W \oplus W^{⊥}

◻

推论. 在定理5的条件下,

I - E

是

V

在

W^{⊥}

上的正交投影. 而且,

I - E

是

V

上的幂等线性算子, 其以

W^{⊥}

为像而

W

为零空间.

译者注记. 对于定理4的推论还有定理5及其推论而言,

W

是有限维子空间的条件并不是必要的, 只是为了确保正交投影的存在性. 实际上, 若

V

在

W

上的正交投影的确存在, 那么这些命题依旧成立.

现在我们可以按照如下方式几何地陈述Gram-Schmidt过程了. 给定内积空间 $V$ 和线性无关的向量 $β_{1}, \dots, β_{n}$ , 令 $P_{k}, k > 1$ 是 $V$ 在由 $β_{1}, \dots, β_{k - 1}$ 张成的子空间的正交补上的正交投影, 并设 $P_{1} = I$ , 那么应用正交化过程于 $β_{1}, \dots, β_{n}$ 得到的向量 $α_{1}, \dots, α_{n}$ 可由 $α_{k} = P_{k} β_{k}, 1 \leq k \leq n$ 定义.

定理5也可以推出所谓的Bessel不等式.

推论. 令

{α_{1}, \dots, α_{n}}

是内积空间

V

中由非零向量构成的正交集合, 如果

β \in V

, 那么

\sum_{k = 1}^{n} \frac{{| ⟨ β | α_{k} ⟩ |}^{2}}{{‖ α_{k} ‖}^{2}} \leq {‖ β ‖}^{2} .

并且, 此不等式取得等号当且仅当

β = \sum_{k = 1}^{n} \frac{⟨ β | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} α_{k} .

证明. 设

W

是由

α_{1}, \dots, α_{n}

张成的子空间, 那么

γ = \sum_{k = 1}^{n} \frac{⟨ β | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} α_{k} \in W

是以

W

中的向量对于

β

的最佳近似. 并且, 若令

δ = β - γ

, 则

δ \in W^{⊥}

, 因而

⟨ γ | δ ⟩ = 0

, 故

\begin{array}{rcl} {‖ β ‖}^{2} & = & {‖ γ ‖}^{2} + {‖ δ ‖}^{2} \\ = & ⟨ \sum_{k = 1}^{n} \frac{⟨ β | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} α_{k} | \sum_{k = 1}^{n} \frac{⟨ β | α_{k} ⟩}{{‖ α_{k} ‖}^{2}} α_{k} ⟩ + {‖ δ ‖}^{2} \\ = & (\sum_{k = 1}^{n} \frac{{| ⟨ β | α_{k} ⟩ |}^{2}}{{‖ α_{k} ‖}^{2}}) + {‖ δ ‖}^{2} \\ \geq & \sum_{k = 1}^{n} \frac{{| ⟨ β | α_{k} ⟩ |}^{2}}{{‖ α_{k} ‖}^{2}} \end{array}

显然, 此不等式取得等号当且仅当

{‖ δ ‖}^{2} = 0

, 即

β = γ

. 证明就结束了.

◻

译者注记. Bessel不等式取得等号的一个等价条件为

β

在由

α_{1}, \dots, α_{n}

张成的子空间之中.

在 ${α_{1}, \dots, α_{n}}$ 为规范正交集的特殊情况下, Bessel不等式就变成了 $\sum_{k = 1}^{n} {| ⟨ β | α_{k} ⟩ |}^{2} \leq {‖ β ‖}^{2} .$ 当然, 若 ${α_{1}, \dots, α_{n}}$ 是 $V$ 的一个规范正交基, 那么Bessel不等式总是取等号, 而此时 $β$ 在有序基 ${α_{1}, \dots, α_{n}}$ 下的坐标的第 $k$ 个分量为 $⟨ β | α_{k} ⟩$ .

例子15. 若我们将上述推论应用于例子11中所描述的规范正交集合, 就会发现

$\sum_{k = - n}^{n} {| \int_{0}^{1} f (t) e^{- 2 π i k t} d t |}^{2} \leq \int_{0}^{1} {| f (t) |}^{2} d t$
$\int_{0}^{1} {| \sum_{k = - n}^{n} c_{k} e^{2 π i k t} |}^{2} d t = \sum_{k = - n}^{n} {| c_{k} |}^{2}$
$\int_{0}^{1} {(\sqrt{2} \cos 2 π t + \sqrt{2} \sin 4 π t)}^{2} d t = 1 + 1 = 2$

练习1. 考虑装备了标准内积的

ℝ^{4}

, 令子空间

W = {γ \in ℝ^{4} | ⟨ γ | α ⟩ = 0 且 ⟨ γ | β ⟩ = 0}

其中

α = (1, 0, - 1, 1)

而

β = (2, 3, - 1, 2)

, 找出

W

的一个基.

练习2. 应用Gram-Schmidt过程于向量

β_{1} = (1, 0, 1)

β_{2} = (1, 0, - 1)

β_{3} = (0, 3, 4)

以得到装备有标准内积的

ℝ^{3}

的一个规范正交基.

练习3. 考虑装备有标准内积的

ℂ^{3}

, 找出由

β_{1} = (1, 0, i)

和

β_{2} = (2, 1, 1 + i)

张成的子空间的一个规范正交基.

练习4. 令

V

是一个内积空间, 两个向量

α

和

β

之间的距离由

d (α, β) = ‖ α - β ‖

定义, 证明

$d (α, β) \geq 0$ ;
$d (α, β) = 0$ 当且仅当 $α = β$ ;
$d (α, β) = d (β, α)$ ;
$d (α, β) \leq d (α, γ) + d (γ, β)$ .

练习5. 令

V

是一个内积空间而

α, β \in V

, 那么

α = β

当且仅当对于每个

γ \in V

有

⟨ α | γ ⟩ = ⟨ β | γ ⟩

练习6. 给定装备有标准内积的

ℝ^{2}

, 令

W

是由

(3, 4)

张成的子空间,

E

是

ℝ^{2}

在

W

上的正交投影, 找出

$E (x_{1}, x_{2})$ 的公式;
标准有序基下 $E$ 的矩阵;
$W^{⊥}$ ;
使得 $E$ 由矩阵 $[\begin{matrix} 1 & 0 \\ 0 & 0 \end{matrix}]$ 表示的一个规范正交基.

练习7. 令

V

是一个内积空间, 其向量空间为

ℝ^{2}

, 而其内积的二次形式由

{‖ (x_{1}, x_{2}) ‖}^{2} = {(x_{1} - x_{2})}^{2} + 3 x_{2}^{2}

定义. 令

E

是

V

在由

(3, 4)

张成的子空间

W

上的正交投影, 现在回答练习6的四个问题.

练习8. 找出

ℝ^{2}

上的一个内积使得

⟨ ε_{1} | ε_{2} ⟩ = 2

练习9. 令

V

是

ℝ [x]

的次数至多为

3

的多项式构成的子空间, 其上装备的内积为

⟨ f | g ⟩ = \int_{0}^{1} f (t) g (t) d t .

找出由所有标量多项式构成的子空间的正交补.
应用Gram-Schmidt过程于基 ${1, x, x^{2}, x^{3}}$ .

练习10. 令

V

是向量空间

ℂ^{n \times n}

, 设其上的内积为

⟨ A | B ⟩ = tr (A B^{⁎})

, 找出由所有对角矩阵构成的子空间的正交补.

练习11. 令

V

是一个有限维内积空间,

{α_{1}, \dots, α_{n}}

是

V

的一个规范正交基, 证明对于任意的

α, β \in V

, 我们都有

⟨ α | β ⟩ = \sum_{k = 1}^{n} ⟨ α | α_{k} ⟩ \overline{⟨ β | α_{k} ⟩} .

练习12. 令

W

是内积空间

V

的一个有限维子空间,

E

是

V

在

W

上的正交投影, 证明对于所有

α, β \in V

⟨ E α | β ⟩ = ⟨ α | E β ⟩

练习13. 令

S

是内积空间

V

的一个子集. 证明

{(S^{⊥})}^{⊥}

包含由

S

张成的子空间. 当

V

是有限维的时候, 证明

{(S^{⊥})}^{⊥}

就是由

S

张成的子空间.

练习14. 令

V

是一个有限维内积空间而

𝔅 = {α_{1}, \dots, α_{n}}

是

V

的一个规范正交基. 令

T

是

V

上的一个线性算子而

A

是在有序基

𝔅

下的矩阵. 证明

A_{i, j} = ⟨ T α_{j} | α_{i} ⟩ .

练习15. 设

V = W_{1} \oplus W_{2}

而

f_{1}

和

f_{2}

分别是

W_{1}

和

W_{2}

上的内积. 证明存在唯一的

V

上的内积

f

使得

$W_{2} = W_{1}^{⊥}$ ;
对于 $α, β \in W_{k}, k = 1, 2$ , 有 $f (α, β) = f_{k} (α, β)$ .

练习16. 令

V

是一个内积空间而

W

是

V

的一个有限维子空间, 一般存在许多以

W

为像的投影. 其中一种当然是

W

上的正交投影, 它具有对于每个

α \in V

‖ E α ‖ \leq ‖ α ‖

的性质. 证明如果

E

是一个以

W

为像的投影且对于每个

α \in V

有

‖ E α ‖ \leq ‖ α ‖

, 那么

E

是

W

上的正交投影. [译注: 这个不等式和Bessel不等式差不多.]

练习17. 令

V

是一个实内积空间, 其由区间

[- 1, 1]

上的所有连续实值函数构成, 而内积为

⟨ f | g ⟩ = \int_{- 1}^{1} f (t) g (t) d t .

令

W

是所有奇函数构成子空间, 找出

W

的正交补.

第8.3节线性泛函和伴随

本节的第一部分处理内积空间上的线性泛函以及其与内积的关系. 基本的结果在于有限维内积空间上任意的线性泛函 $f$ 就是"固定一个向量的内积", 即对于某个固定的 $β \in V$ , $f$ 具有 $f (α) = ⟨ α | β ⟩$ 的形式. 我们使用这个结果证明了 $V$ 上的线性算子 $T$ 的"伴随"的存在性, 其是一个对于每个 $α, β \in V$ 有 $⟨ T α | β ⟩ = ⟨ α | T^{⁎} β ⟩$ 的线性算子 $T^{⁎}$ . 通过规范正交基的使用, 线性算子上的伴随操作 (从 $T$ 到 $T^{⁎}$ ) 就相当于构造一个矩阵的共轭转置. 我们稍微探索了一下伴随操作和复数的共轭之间的类似之处.

令 $V$ 是任意的内积空间, $β \in V$ 是一个固定的向量, 我们定义从 $V$ 到标量域的函数 $f_{β}$ 为 $f_{β} (α) = ⟨ α | β ⟩ .$ 函数 $f_{β}$ 是 $V$ 上的一个线性泛函, 这是因为根据内积的定义, $⟨ α | β ⟩$ 作为 $α$ 的函数是线性的. 如果 $V$ 是有限维的, 那么 $V$ 上的每个线性泛函都可由某个 $β$ 以这种方式产生.

定理6. 令

V

是一个有限维内积空间, 而

f

是

V

上的一个线性泛函, 那么存在唯一的向量

β \in V

使得对于每个

α \in V

有

f (α) = ⟨ α | β ⟩

证明. 令

{α_{1}, α_{2}, \dots, α_{n}}

是

V

的一个规范正交基, 置

β = \sum_{j = 1}^{n} \overline{f (α_{j})} α_{j}

令

f_{β}

是由

f_{β} (α) = ⟨ α | β ⟩

定义的线性泛函, 那么

f_{β} (α_{k}) = ⟨ α_{k} | \sum_{j = 1}^{n} \overline{f (α_{j})} α_{j} ⟩ = f (α_{k}) .

既然这对于每个基向量

α_{k}

成立, 于是

f = f_{β}

. 现在设

γ \in V

满足

f_{γ} = f

, 那么

\begin{array}{rcl} f_{γ} (γ - β) - f_{β} (γ - β) & = & ⟨ γ - β | γ ⟩ - ⟨ γ - β | β ⟩ \\ = & ⟨ γ - β | γ - β ⟩ \\ = & 0 \end{array}

换言之,

γ - β = 0

, 即

γ = β

. 因此, 恰存在一个向量

β

按照以上陈述的方式确定了线性泛函

f

◻

这个证明可以使用基下的线性泛函的表示的语言稍微重述一下. 如果我们选定了 $V$ 的一个规范正交基 ${α_{1}, \dots, α_{n}}$ , 那么 $α = x_{1} α_{1} + \dots + x_{n} α_{n}$ 和 $β = y_{1} α_{1} + \dots + y_{n} α_{n}$ 的内积为 $⟨ α | β ⟩ = x_{1} {\overline{y}}_{1} + \dots + x_{n} {\overline{y}}_{n} .$ 如果 $f$ 是 $V$ 上任意的线性泛函, 那么 $f$ 具有 $f (α) = c_{1} x_{1} + \dots + c_{n} x_{n}$ 的形式, 其中 $c_{1}, \dots, c_{n}$ 是由基确定的一些固定标量. 当然, $c_{j} = f (α_{j})$ . 如果我们希望找到一个向量 $β \in V$ 使得对于每个 $α$ 有 $⟨ α | β ⟩ = f (α)$ , 那么显然 $β$ 的坐标分量 $y_{j}$ 必须满足 ${\overline{y}}_{j} = c_{j}$ , 或者说 $y_{j} = \overline{f (α_{j})}$ . 据此, 可知 $β = \overline{f (α_{1})} α_{1} + \dots + \overline{f (α_{n})} α_{n}$ 就是我们所要的向量.

现在应该作出一些更加深刻的评注. 刚才我们所给出的对于定理6的证明相当简短, 然而它却没能强调一个基本的几何事实, 即 $β$ 位于 $f$ 的零空间的正交补之中. 令 $W$ 是 $f$ 的零空间, 那么 $V = W \oplus W^{⊥}$ , 并且 $f$ 完全由其在 $W^{⊥}$ 上的值所确定. 实际上, 如果 $P$ 是 $V$ 在 $W^{⊥}$ 上的正交投影, 那么 $f (α) = f (P α)$ 对于每个 $α \in V$ 成立. 设 $f \neq 0$ , 那么 $f$ 的秩为 $1$ 而 $\dim W^{⊥} = 1$ . 如果 $γ$ 是 $W^{⊥}$ 中任意的非零向量, 那么 $P α = \frac{⟨ α | γ ⟩}{{‖ γ ‖}^{2}} γ$ 对于所有 $α \in V$ 成立, 因此 $\begin{array}{rcl} f (α) & = & f (P α) \\ = & f (\frac{⟨ α | γ ⟩}{{‖ γ ‖}^{2}} γ) \\ = & ⟨ α | γ ⟩ \frac{f (γ)}{{‖ γ ‖}^{2}} \\ = & ⟨ α | \frac{\overline{f (γ)}}{{‖ γ ‖}^{2}} γ ⟩ \end{array}$ 换言之, $β = [\overline{f (γ)} / {‖ γ ‖}^{2}] γ$ .

译者注记. 前一段的一些基本事实(对于像我这样不够聪明的读者)值得澄清. 首先, 之所以

β

位于

f

的零空间的正交补之中, 是因为若

f (α) = 0

, 那么

⟨ α | β ⟩ = 0

, 即

β

正交于

f

的零空间的每个向量. 其次, 之所以

f (α) = f (P α)

, 是因为根据

P

的定义,

α - P α

正交于

W^{⊥}

的每个向量, 而我们知道

β \in W^{⊥}

, 于是就有

\begin{array}{rcl} ⟨ α - P α | β ⟩ & = & ⟨ α | β ⟩ - ⟨ P α | β ⟩ \\ = & f (α) - f (P α) \\ = & 0 \end{array}

即

f (α) = f (P α)

例子16. 我们应该给出一个例子以表明定理6若缺少

V

是有限维空间的条件则并不成立. 令

V

是复数域上的多项式的向量空间, 而内积为

⟨ f | g ⟩ = \int_{0}^{1} f (t) \overline{g (t)} d t .

这个内积也可以被代数地定义. 如果

f = \sum_{j = 0}^{l} a_{j} x^{j}

而

g = \sum_{k = 0}^{m} b_{k} x^{k}

, 那么

⟨ f | g ⟩ = \sum_{j = 0}^{l} \sum_{k = 0}^{m} \frac{a_{j} {\overline{b}}_{k}}{j + k + 1} .

令

z

是一个固定的复数,

L

是"在

z

处求值"的线性泛函:

L (f) = f (z) .

存在一个多项式

g

使得对于每个

f

有

⟨ f | g ⟩ = L (f)

吗? 答案是否定的, 以下是我们的推理. 设存在多项式

g

满足

f (z) = \int_{0}^{1} f (t) \overline{g (t)} d t

对于每个多项式

f

成立. 令

h = x - z

, 那么对于任意的

f

我们有

(h f) (z) = 0

, 于是

0 = \int_{0}^{1} h (t) f (t) \overline{g (t)} d t

特别地, 这个等式在

f = \overline{h} g

时也成立, 以至于

\begin{array}{rcl} \int_{0}^{1} h (t) (\overline{h} g) (t) \overline{g (t)} d t & = & \int_{0}^{1} {| h (t) |}^{2} {| g (t) |}^{2} d t \\ = & \int_{0}^{1} {| (h g) (t) |}^{2} d t \\ = & ⟨ h g | h g ⟩ \\ = & 0 \end{array}

这可以推出

h g = 0

. 鉴于

h \neq 0

, 必然有

g = 0

. 可是,

L

并非零线性泛函, 即这样的

g

不存在.

译者注记. 以上的

\overline{h}

是对于

h

的每个系数作复共轭得到的多项式. 在

t

为实数的情况下,

\overline{h} (t) = \overline{h (t)}

读者可以稍微推广一下这个例子. 设我们选定了标量 $c_{1}, \dots, c_{n}$ 和不同的复数 $z_{1}, \dots, z_{n}$ , 令 $L (f) = c_{1} f (z_{1}) + \dots + c_{n} f (z_{n})$ 那么 $L$ 是 $V$ 上的一个线性泛函, 但是除非 $c_{1} = c_{2} = \dots = c_{n} = 0$ , 并不存在多项式 $g$ 使得 $L (f) = ⟨ f | g ⟩$ . 读者只需重复上述的论证以 $h = (x - z_{1}) \dots (x - z_{n})$ .

现在我们将注意力转到线性算子的伴随的概念上来.

定理7. 对于有限维内积空间

V

上任意的线性算子

T

, 存在唯一的

V

上的线性算子

T^{⁎}

使得对于每个

α, β \in V

有

⟨ T α | β ⟩ = ⟨ α | T^{⁎} β ⟩ .

证明. 令

β

是

V

中任意的一个向量, 那么

α \mapsto ⟨ T α | β ⟩

是

V

上的一个线性泛函. 根据定理6, 存在唯一的

β^{'} \in V

使得对于每个

α \in V

有

⟨ T α | β ⟩ = ⟨ α | β^{'} ⟩

. 令

T^{⁎}

是映射

β \mapsto β^{'}

, 我们知道

⟨ T α | β ⟩ = ⟨ α | T^{⁎} β ⟩

对于所有

α, β \in V

成立, 那么剩下来的工作就是要验证

T^{⁎}

的确是一个线性算子. 令

β, γ \in V

而

c

是一个标量, 对于任意的

α

, 我们有

\begin{array}{rcl} ⟨ α | T^{⁎} (c β + γ) ⟩ & = & ⟨ T α | c β + γ ⟩ \\ = & \overline{c} ⟨ T α | β ⟩ + ⟨ T α | γ ⟩ \\ = & \overline{c} ⟨ α | T^{⁎} β ⟩ + ⟨ α | T^{⁎} γ ⟩ \\ = & ⟨ α | c T^{⁎} β + T^{⁎} γ ⟩ \end{array}

因此,

T^{⁎} (c β + γ) = c T^{⁎} β + T^{⁎} γ

, 即

T^{⁎}

是线性的.

T^{⁎}

的唯一性是显然的. 对于任意的向量

β \in V

, 向量

T^{⁎} β

由以下条件所唯一刻画:

对于每个 α \in V, ⟨ T α | β ⟩ = ⟨ α | T^{⁎} β ⟩ .

◻

译者注记. 以上证明的写法在某种意义上有些颠倒. 实际上, 根据定理6, 满足条件的

T^{⁎}

至多只有一个. 接着, 我们仅需要验证这个由定理6确定的映射的确是我们所要的线性算子即可.

定理8. 令

V

是一个有限维内积空间而

𝔅 = {α_{1}, \dots, α_{n}}

是

V

的一个(有序)规范正交基, 令

T

是

V

上的一个线性算子而

A

是在有序基

𝔅

下的矩阵, 那么

A_{k, j} = ⟨ T α_{j} | α_{k} ⟩

证明. 既然

𝔅

是一个规范正交基, 我们有

α = \sum_{k = 1}^{n} ⟨ α | α_{k} ⟩ α_{k} .

鉴于矩阵

A

由

T α_{j} = \sum_{k = 1}^{n} A_{k, j} α_{k}

定义, 而

T α_{j} = \sum_{k = 1}^{n} ⟨ T α_{j} | α_{k} ⟩ α_{k}

我们有

A_{k, j} = ⟨ T α_{j} | α_{k} ⟩

◻

推论. 令

V

是一个有限维内积空间而

T

是

V

上的一个线性算子, 那么在

V

的任意的规范正交基下,

T^{⁎}

的矩阵是

T

的矩阵的共轭转置.

证明. 令

𝔅 = {α_{1}, \dots, α_{n}}

是

V

的一个规范正交基, 设

A = {[T]}_{𝔅}

而

B = {[T^{⁎}]}_{𝔅}

. 根据定理6, 我们有

A_{k, j} = ⟨ T α_{j} | α_{k} ⟩ 和 B_{k, j} = ⟨ T^{⁎} α_{j} | α_{k} ⟩ .

根据

T^{⁎}

的定义, 可以推出

\begin{array}{rcl} B_{k, j} & = & ⟨ T^{⁎} α_{j} | α_{k} ⟩ \\ = & \overline{⟨ α_{k} | T^{⁎} α_{j} ⟩} \\ = & \overline{⟨ T α_{k} | α_{j} ⟩} \\ = & {\overline{A}}_{j, k} \end{array}

◻

例子17. 令

V

是一个有限维内积空间,

E

是

V

在其一个子空间

W

上的正交投影, 那么对于任意的

α, β \in V

, 我们可以推出

\begin{array}{rcl} ⟨ E α | β ⟩ & = & ⟨ E α | E β + (I - E) β ⟩ \\ = & ⟨ E α | E β ⟩ \\ = & ⟨ E α + (I - E) α | E β ⟩ \\ = & ⟨ α | E β ⟩ \end{array}

根据算子

E^{⁎}

的唯一性, 我们知道

E^{⁎} = E

. 现在考虑例子14所描述的投影, 那么

A = \frac{1}{154} [\begin{array}{r} 9 & 36 & - 3 \\ 36 & 144 & - 12 \\ - 3 & - 12 & 1 \end{array}]

是

E

在标准规范正交基下的矩阵. 根据之前的推论, 应该有

A^{⁎} = A

, 的确如此. 另一方面, 设

\begin{array}{rcl} α_{1} & = & (154, 0, 0) \\ α_{2} & = & (145, - 36, 3) \\ α_{3} & = & (- 36, 10, 12) \end{array}

那么

{α_{1}, α_{2}, α_{3}}

是一个基, 并且

\begin{array}{rcl} E α_{1} & = & (9, 36, - 3) \\ E α_{2} & = & (0, 0, 0) \\ E α_{3} & = & (0, 0, 0) \end{array}

既然

(9, 36, - 3) = (154, 0, 0) - (145, - 36, 3)

E

在基

{α_{1}, α_{2}, α_{3}}

下的矩阵为

B = [\begin{array}{r} 1 & 0 & 0 \\ - 1 & 0 & 0 \\ 0 & 0 & 0 \end{array}] .

在这种情况下,

B^{⁎} \neq B

, 而且

B^{⁎}

也不是

E^{⁎}

在基

{α_{1}, α_{2}, α_{3}}

下的矩阵. 应用以上推论, 我们可以得出

{α_{1}, α_{2}, α_{3}}

不是规范正交基. 当然, 这不论如何都是很显然的.

定义. 令

T

是内积空间

V

上的一个线性算子, 那么我们称 $T$ 在 $V$ 上具有一个伴随, 如果存在

V

上的一个线性算子

T^{⁎}

使得

⟨ T α | β ⟩ = ⟨ α | T^{⁎} β ⟩

对于所有

α, β \in V

成立.

根据定理7, 有限维内积空间 $V$ 上的每个线性算子 $T$ 都在 $V$ 上具有伴随. 在无限维的情形下, 并不总是如此. 但是, 不论如何, 至多只有一个这样的算子 $T^{⁎}$ . 当它存在时, 我们将其称为 $T$ 的伴随.

关于有限维的情形, 有两点评注值得一说.

$T$ 的伴随不仅依赖于 $T$ , 也依赖于内积的定义.
正如例子17所显示的那样, 对于任意而非规范正交的有序基 $𝔅$ , ${[T]}_{𝔅}$ 和 ${[T^{⁎}]}_{𝔅}$ 之间的关系要比以上推论所描述的更加复杂.

例子18. 令

V

是

ℂ^{n \times 1}

而内积为

⟨ X | Y ⟩ = Y^{⁎} X

. 如果

A \in ℂ^{n \times n}

, 那么线性算子

X \mapsto A X

的伴随是线性算子

X \mapsto A^{⁎} X

, 因为

⟨ A X | Y ⟩ = Y^{⁎} A X = {(A^{⁎} Y)}^{⁎} X = ⟨ X | A^{⁎} Y ⟩ .

读者应该发现这是前述推论的一个特殊情形.

例子19. 这个例子类似于例子18. 令

V

是

ℂ^{n \times n}

而内积为

⟨ A | B ⟩ = tr (A B^{⁎})

. 令

M \in ℂ^{n \times n}

, 那么左乘

M

的伴随是左乘

M^{⁎}

. 当然, 左乘

M

指的是线性算子

L_{M} (A) = M A

\begin{array}{rcl} ⟨ L_{M} (A) | B ⟩ & = & tr (M A B^{⁎}) \\ = & tr (A B^{⁎} M) \\ = & tr (A {(M^{⁎} B)}^{⁎}) \\ = & ⟨ A | L_{M^{⁎}} (B) ⟩ \end{array}

因此,

{(L_{M})}^{⁎} = L_{M^{⁎}}

. 以上计算中, 我们用到了迹函数的一个特有性质:

tr (A B) = tr (B A)

译者注记. 本书还没有证明过

tr (A B) = tr (B A)

, 现在我们来证明一下:

\begin{array}{rcl} tr (A B) & = & \sum_{j = 1}^{n} {(A B)}_{j, j} \\ = & \sum_{j = 1}^{n} \sum_{k = 1}^{n} A_{j, k} B_{k, j} \\ = & \sum_{k = 1}^{n} \sum_{j = 1}^{n} B_{k, j} A_{j, k} \\ = & \sum_{k = 1}^{n} {(B A)}_{k, k} \\ = & tr (B A) \end{array}

例子20. 令

V

是复数域上的多项式的向量空间, 而其上的内积为

⟨ f | g ⟩ = \int_{0}^{1} f (t) \overline{g (t)} d t .

考虑线性算子"乘以

f

", 即

M_{f} (g) = f g

, 那么这个算子具有一个伴随, 即乘以

\overline{f}

, 这是因为

\begin{array}{rcl} ⟨ M_{f} (g) | h ⟩ & = & ⟨ f g | h ⟩ \\ = & \int_{0}^{1} f (t) g (t) \overline{h (t)} d t \\ = & \int_{0}^{1} g (t) \overline{[\overline{f (t)} h (t)]} d t \\ = & \int_{0}^{1} g (t) \overline{(\overline{f} h) (t)} d t \\ = & ⟨ g | \overline{f} h ⟩ \\ = & ⟨ g | M_{\overline{f}} (h) ⟩ \end{array}

于是

{(M_{f})}^{⁎} = M_{\overline{f}}

例子21. 在例子20里, 我们看到某些无限维向量空间上的线性算子的确也有伴随. 正如之前所说, 这种线性算子并不总是具有伴随. 令

V

是例子20中的内积空间, 而

D

是

ℂ [x]

上的形式微分算子, 那么分部积分表明

⟨ D f | g ⟩ = f (1) \overline{g} (1) - f (0) \overline{g} (0) - ⟨ f | D g ⟩ .

让我们固定

g

, 并检视何时存在一个多项式

D^{⁎} g

使得对于所有的

f

都有

⟨ D f | g ⟩ = ⟨ f | D^{⁎} g ⟩

. 如果这样的一个

D^{⁎} g

存在的话, 我们有

⟨ f | D^{⁎} g ⟩ = f (1) \overline{g} (1) - f (0) \overline{g} (0) - ⟨ f | D g ⟩

或者

⟨ f | D^{⁎} g + D g ⟩ = f (1) \overline{g} (1) - f (0) \overline{g} (0) .

在

g

固定的情况下,

L (f) = f (1) \overline{g} (1) - f (0) \overline{g} (0)

就成为例子16中所考虑的那种类型的线性泛函. 除非

L = 0

, 其就不可能具有

L (f) = ⟨ f | h ⟩

的形式. 如果

D^{⁎} g

存在, 那么令

h = D^{⁎} g + D g

, 我们就有

L (f) = ⟨ f | h ⟩

, 于是

g (0) = g (1) = 0

. 也就是说, 适合的

D^{⁎} g

的存在可以推出

g (0) = g (1) = 0

. 反过来, 若

g (0) = g (1) = 0

, 多项式

D^{⁎} g = - D g

满足对于所有的

f

⟨ D f | g ⟩ = ⟨ f | D^{⁎} g ⟩

. 如果我们选择了任意的

g

使得

g (0) \neq 0

或

g (1) \neq 0

, 那么就不可能定义合适的

D^{⁎} g

. 我们总结一下, 即

D

没有伴随.

我们希望这些例子能够加深读者对于线性算子的伴随的理解. 我们看到, 从 $T$ 到 $T^{⁎}$ 的伴随操作表现得有些类似于复数上的共轭. 以下的定理强调了这种类比.

定理9. 令

V

是一个有限维内积空间,

T

和

U

是

V

上的线性算子,

c

是任意的标量, 那么

${(T + U)}^{⁎} = T^{⁎} + U^{⁎}$ ;
${(c T)}^{⁎} = \overline{c} T^{⁎}$ ;
${(T U)}^{⁎} = U^{⁎} T^{⁎}$ ;
${(T^{⁎})}^{⁎} = T$ .

证明. 为了证明i, 令

α, β \in V

, 那么

\begin{array}{rcl} ⟨ (T + U) α | β ⟩ & = & ⟨ T α + U α | β ⟩ \\ = & ⟨ T α | β ⟩ + ⟨ U α | β ⟩ \\ = & ⟨ α | T^{⁎} β ⟩ + ⟨ α | U^{⁎} β ⟩ \\ = & ⟨ α | T^{⁎} β + U^{⁎} β ⟩ \\ = & ⟨ α | (T^{⁎} + U^{⁎}) β ⟩ \end{array}

根据伴随的唯一性, 我们得到了

{(T + U)}^{⁎} = T^{⁎} + U^{⁎}

. 我们将ii的证明留给读者. 我们从以下关系

⟨ T U α | β ⟩ = ⟨ U α | T^{⁎} β ⟩ = ⟨ α | U^{⁎} T^{⁎} β ⟩

和

⟨ T^{⁎} α | β ⟩ = \overline{⟨ β | T^{⁎} α ⟩} = \overline{⟨ T β | α ⟩} = ⟨ α | T β ⟩

可以得到iii和iv.

◻

定理9经常被重述为伴随是一个周期为 $2$ 的共轭线性的反同构. 我们上面提及的伴随与复共轭的类似之处当然是复共轭具有 $\overline{z_{1} + z_{2}} = \overline{z_{1}} + \overline{z_{2}}$ , $\overline{z_{1} z_{2}} = \overline{z_{1}} \overline{z_{2}}$ , $\overline{\overline{z}} = z$ 的性质. 对于乘积的伴随, 读者必须小心顺序是相反的: ${(T U)}^{⁎} = U^{⁎} T^{⁎}$ . 当我们继续研究内积空间上的线性算子时, 我们将提及以上类比的一些扩展. 现在, 我们就要沿着之前的路线提及一点. 一个复数 $z$ 是实数当且仅当 $z = \overline{z}$ . 读者可能会设想满足 $T = T^{⁎}$ 的线性算子 $T$ 在某种意义上表现得与实数类似, 实际上的确如此. 例如, 若 $T$ 是有限维复内积空间上的一个线性算子, 那么 $T = U_{1} + i U_{2}$ 其中 $U_{1} = U_{1}^{⁎}$ 而 $U_{2} = U_{2}^{⁎}$ . 因此, $T$ 也拥有某种"实部"和"虚部". 这样的算子 $U_{1}$ 和 $U_{2}$ 是唯一的, 由 $U_{1} = \frac{1}{2} (T + T^{⁎}) 和 U_{2} = \frac{1}{2 i} (T - T^{⁎})$ 给定.

满足 $T = T^{⁎}$ 的线性算子 $T$ 被称为是自伴的, 或者Hermite的. 若 $𝔅$ 是 $V$ 的一个规范正交基, 那么 ${[T^{⁎}]}_{𝔅} = {[T]}_{𝔅}^{⁎} .$ 于是, $T$ 是自伴算子当且仅当其在每个规范正交基下的矩阵表示都是自伴的. 自伴算子是重要的, 不仅在于其提供了一般线性算子在某种意义下的实部和虚部, 还出于以下原因:

自伴算子具有许多特殊的性质. 例如, 对于这样的一种线性算子, 存在一个由其特征向量构成的规范正交基.
许多实践中出现的线性算子都是自伴的.

之后我们将考虑自伴算子的特殊性质.

练习1. 令

V

是带有标准内积的向量空间

ℂ^{2}

T

是由

T ε_{1} = (1, - 2)

和

T ε_{2} = (i, - 1)

定义的线性算子. 如果

α = (x_{1}, x_{2})

, 找出

T^{⁎} α

练习2. 令

T

是

ℂ^{2}

上的线性算子, 由

T ε_{1} = (1 + i, 2)

和

T ε_{2} = (i, i)

定义. 使用标准内积, 找出

T^{⁎}

在标准有序基下的矩阵.

T

与

T^{⁎}

交换吗?

练习3. 令

V

是带有标准内积的

ℂ^{3}

T

是

V

上的线性算子, 其在标准有序基下的矩阵由

A_{j, k} = i^{j + k}

定义, 其中

i

是虚数单位. 找出

T^{⁎}

的零空间的一个基.

练习4. 令

V

是一个有限维内积空间,

T

是

V

上的一个线性算子, 证明

T^{⁎}

的像是

T

的零空间的正交补.

练习5. 令

V

是一个有限维内积空间,

T

是

V

上的一个线性算子. 如果

T

是可逆的, 证明

T^{⁎}

也是可逆的, 并且

{(T^{⁎})}^{- 1} = {(T^{- 1})}^{⁎}

练习6. 令

V

是一个内积空间, 而

β

和

γ

是

V

中固定的向量. 证明

T α = ⟨ α | β ⟩ γ

定义了

V

上的一个线性算子. 证明

T

具有伴随, 并显式描述

T^{⁎}

.
现在设

V

是带有标准内积的

ℂ^{n}

β = (y_{1}, \dots, y_{n})

而

γ = (x_{1}, \dots, x_{n})

T

在标准有序基下的矩阵的第

j

行

k

列的元素是什么? 这个矩阵的秩是多少?

练习7. 证明两个自伴算子之积是自伴的当且仅当这两个算子交换.

练习8. 令

V

是

ℝ

上次数小于等于

3

的多项式构成的向量空间, 而内积为

⟨ f | g ⟩ = \int_{0}^{1} f (t) g (t) d t .

如果

t

是一个实数, 找出多项式

g_{t} \in V

使得对于每个

f \in V

都有

⟨ f | g_{t} ⟩ = f (t)

练习9. 令

V

是练习8的内积空间,

D

是

V

上的形式微分算子, 找出

D^{⁎}

练习10. 令

V

是

ℂ^{n \times n}

, 其上的内积为

⟨ A | B ⟩ = tr (A B^{⁎})

. 令

P \in V

是一个固定的可逆矩阵, 而

T_{P} (A) = P^{- 1} A P

是

V

上的线性算子. 找出

T_{P}

的伴随.

练习11. 令

V

是一个有限维内积空间,

E

是

V

上的一个幂等线性算子, 证明

E

是自伴的当且仅当

E E^{⁎} = E^{⁎} E

练习12. 令

V

是一个有限维复内积空间,

T

是

V

上的一个线性算子, 证明

T

是自伴的当且仅当对于每个

α \in V

⟨ T α | α ⟩

是实数.

第8.4节酉算子

在本节中, 我们将考虑两个内积空间之间的同构的概念. 如果 $V$ 和 $W$ 是向量空间, 那么从 $V$ 到 $W$ 的同构是一个从 $V$ 到 $W$ 的双射的线性变换, 即"保持"向量空间运算的从 $V$ 到 $W$ 的一一对应. 既然内积空间不仅包含包含向量空间, 还具有一个给定的内积, 那么当 $V$ 和 $W$ 是内积空间时, 我们要求从 $V$ 到 $W$ 的内积不仅保持线性运算, 还应该保持内积. 内积空间上的自同构被称为"酉算子". 我们将考虑酉算子的各种例子并建立其基本性质.

定义. 令

V

和

W

是相同的域上的内积空间,

T

是从

V

到

W

的线性变换, 那么我们称

T

保持内积, 如果对于每个

α, β \in V

都有

⟨ T α | T β ⟩ = ⟨ α | β ⟩

. 从

V

到

W

的同构是保持内积的从

V

到

W

的向量空间的同构.

如果 $T$ 保持内积, 那么 $‖ T α ‖ = ‖ α ‖$ , 于是 $T$ 必然是非奇异的. 因此, 从 $V$ 到 $W$ 的同构也可以被定义为保持内积的从 $V$ 到 $W$ 的满射的线性变换. 若 $T$ 是从 $V$ 到 $W$ 的同构, 那么 $T^{- 1}$ 是从 $W$ 到 $V$ 的同构. 当这样的一个 $T$ 存在时, 我们就称 $V$ 和 $W$ 是同构的. 当然, 内积空间之间的同构是一个等价关系.

定理10. 令

V

和

W

是相同的域上的

n

维内积空间, 如果

T

是从

V

到

W

的线性变换, 那么以下条件是等价的.

$T$ 保持内积.
$T$ 是一个(内积空间的)同构.
$T$ 将 $V$ 的每个规范正交基映射为 $W$ 的规范正交基.
$T$ 将 $V$ 的某个规范正交基映射为 $W$ 的规范正交基.

证明. 由i推出ii: 如果

T

保持内积, 那么对于每个

α \in V

‖ T α ‖ = ‖ α ‖

. 因此,

T

是非奇异的. 既然

\dim V = \dim W

, 我们知道

T

是一个向量空间的同构.
由ii推出iii: 设

T

是一个同构. 令

{α_{1}, \dots, α_{n}}

是

V

的一个规范正交基. 既然

T

是一个向量空间的同构, 那么

{T α_{1}, \dots, T α_{n}}

是

W

的一个基. 鉴于

T

也保持内积,

⟨ T α_{j} | T α_{k} ⟩ = ⟨ α_{j} | α_{k} ⟩ = δ_{j, k}

.
由iii推出iv: 不言自明.
由iv推出i: 令

{α_{1}, \dots, α_{n}}

是

V

的一个规范正交基, 其使得

{T α_{1}, \dots, T α_{n}}

是

W

的一个规范正交基, 那么

⟨ T α_{j} | T α_{k} ⟩ = δ_{j, k} = ⟨ α_{j} | α_{k} ⟩ .

对于

V

中任意的向量

α = x_{1} α_{1} + \dots + x_{n} α_{n}

和

β = y_{1} α_{1} + \dots + y_{n} α_{n}

, 我们有

\begin{array}{rcl} ⟨ α | β ⟩ & = & \sum_{j = 1}^{n} x_{j} {\overline{y}}_{j} \\ ⟨ T α | T β ⟩ & = & ⟨ \sum_{j = 1}^{n} x_{j} T α_{j} | \sum_{k = 1}^{n} y_{k} T α_{k} ⟩ \\ = & \sum_{j = 1}^{n} \sum_{k = 1}^{n} x_{j} {\overline{y}}_{k} ⟨ T α_{j} | T α_{k} ⟩ \\ = & \sum_{j = 1}^{n} x_{j} {\overline{y}}_{j} \end{array}

于是,

T

保持内积.

◻

译者注记. 以上证明用到了第3章的定理9的注记.

推论. 令

V

和

W

是相同的域上的有限维内积空间, 那么

V

和

W

同构当且仅当它们具有相等的维数.

证明. 如果

{α_{1}, \dots, α_{n}}

是

V

的一个规范正交基而

{β_{1}, \dots, β_{n}}

是

W

的一个规范正交基, 令

T

是由

T α_{j} = β_{j}

定义的从

V

到

W

的线性变换, 那么

T

是从

V

到

W

的同构.

◻

例子22. 如果

V

是一个

n

维内积空间, 那么每个有序规范正交基

𝔅 = {α_{1}, \dots, α_{n}}

都确定了一个从

V

到带有标准内积的

F^{n}

的同构, 这个同构即

T (x_{1} α_{1} + \dots + x_{n} α_{n}) = (x_{1}, \dots, x_{n}) .

还有一个由

𝔅

确定的从

V

到带有标准内积的

F^{n \times 1}

的同构, 其仅与前述例子在表面上有所不同, 此即

α \mapsto {[α]}_{𝔅}

也就是将

α

送至其在有序基

𝔅

下的坐标矩阵的变换. 对于任意的有序基

𝔅

而言, 这都是一个向量空间的同构. 然而, 这是两个内积空间之间的同构当且仅当

𝔅

是一个规范正交基.

例子23. 现在我们给出一个不那么浮浅的例子. 令

W

是

ℝ

上的所有

3 \times 3

的斜对称矩阵

A

(即

A^{t} = - A

) 构成的向量空间. 我们装备

W

以内积

⟨ A | B ⟩ = \frac{1}{2} tr (A B^{t})

, 这里的

\frac{1}{2}

只是为了方便而插入的. 令

V

是带有标准内积的

ℝ^{3}

. 令

T

是从

V

到

W

的线性变换, 由

T (x_{1}, x_{2}, x_{3}) = [\begin{array}{r} 0 & - x_{3} & x_{2} \\ x_{3} & 0 & - x_{1} \\ - x_{2} & x_{1} & 0 \end{array}] .

定义, 那么

T

是一个满射. 置

A = [\begin{array}{r} 0 & - x_{3} & x_{2} \\ x_{3} & 0 & - x_{1} \\ - x_{2} & x_{1} & 0 \end{array}], B = [\begin{array}{r} 0 & - y_{3} & y_{2} \\ y_{3} & 0 & - y_{1} \\ - y_{2} & y_{1} & 0 \end{array}]

我们有

\begin{array}{rcl} tr (A B^{t}) & = & x_{3} y_{3} + x_{2} y_{2} + x_{3} y_{3} + x_{2} y_{2} + x_{1} y_{1} \\ = & 2 (x_{1} y_{1} + x_{2} y_{2} + x_{3} y_{3}) \end{array}

因此,

⟨ α | β ⟩ = ⟨ T α | T β ⟩

而

T

是一个内积空间之间的同构. 注意到

T

将标准基

ε_{1}, ε_{2}, ε_{3}

送至规范正交基

[\begin{array}{r} 0 & 0 & 0 \\ 0 & 0 & - 1 \\ 0 & 1 & 0 \end{array}], [\begin{array}{r} 0 & 0 & 1 \\ 0 & 0 & 0 \\ - 1 & 0 & 0 \end{array}], [\begin{array}{r} 0 & - 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 0 \end{array}] .

例子24. 基于规范正交基描述同构实际上并不总是最方便. 例如, 设

G = P^{⁎} P

, 其中

P

是一个

n \times n

的可逆复矩阵. 令

V

是向量空间

ℂ^{n \times 1}

, 带有内积

[X | Y] = Y^{⁎} G X

. 令

W

是相同的向量空间, 但是带有标准内积

⟨ X | Y ⟩ = Y^{⁎} X

. 我们知道

V

和

W

是同构的内积空间. 似乎刻画一个

V

和

W

之间的同构的最简单方式如下: 令从

V

到

W

的线性变换

T (X) = P X

, 那么

\begin{array}{rcl} ⟨ T X | T Y ⟩ & = & ⟨ P X | P Y ⟩ \\ = & {(P Y)}^{⁎} (P X) \\ = & Y^{⁎} P^{⁎} P X \\ = & Y^{⁎} G X \\ = & [X | Y] \end{array}

因而

T

是一个同构.

例子25. 令

V

是单位区间上的实值连续函数的空间, 带有内积

[f | g] = \int_{0}^{1} f (t) g (t) t^{2} d t .

令

W

是相同的向量空间, 带有内积

⟨ f | g ⟩ = \int_{0}^{1} f (t) g (t) d t .

令

T

是从

V

到

W

的线性变换, 由

(T f) (t) = t f (t)

给定, 那么

⟨ T f | T g ⟩ = [f | g]

, 于是

T

保持内积. 然而,

T

并非从

V

到

W

的同构, 因为

T

不是满射. 当然, 这会发生仅是因为作为基础的向量空间不是有限维的.

定理11. 令

V

和

W

是相同的域上的内积空间,

T

是从

V

到

W

的线性变换, 那么

T

保持内积当且仅当对于每个

α \in V

‖ T α ‖ = ‖ α ‖

证明. 如果

T

保持内积, 那么当然

T

"保持范数". 设对于每个

α \in V

有

‖ T α ‖ = ‖ α ‖

, 那么

{‖ T α ‖}^{2} = {‖ α ‖}^{2}

. 现在根据实或复选择相应的极化恒等式, 再加上

T

具有线性性质的事实, 很容易得到对于每个

α, β \in V

, 我们有

⟨ α | β ⟩ = ⟨ T α | T β ⟩

◻

译者注记. 以复内积空间为例, 我们补充一下这里的推理:

\begin{array}{rcl} ⟨ T α | T β ⟩ & = & \frac{1}{4} ({‖ T α + T β ‖}^{2} - {‖ T α - T β ‖}^{2}) + \frac{i}{4} ({‖ T α + i T β ‖}^{2} - {‖ T α - i T β ‖}^{2}) \\ = & \frac{1}{4} ({‖ T (α + β) ‖}^{2} - {‖ T (α - β) ‖}^{2}) + \frac{i}{4} ({‖ T (α + i β) ‖}^{2} - {‖ T (α - i β) ‖}^{2}) \\ = & \frac{1}{4} ({‖ α + β ‖}^{2} - {‖ α - β ‖}^{2}) + \frac{i}{4} ({‖ α + i β ‖}^{2} - {‖ α - i β ‖}^{2}) \\ = & ⟨ α | β ⟩ \end{array}

定义. 一个内积空间上的一个酉算子是一个从此空间到自身的同构.

两个酉算子之积仍然是酉算子, 因为如果 $U_{1}$ 和 $U_{2}$ 是酉算子, 那么 $U_{2} U_{1}$ 是可逆的, 并且对于每个 $α$ 有 ${‖ U_{2} U_{1} α ‖}^{2} = {‖ U_{1} α ‖}^{2} = {‖ α ‖}^{2}$ . [译注: 作者这里提及可逆时, 指的是作为映射的可逆, 或者是作为线性变换的可逆, 但肯定不是作为内积空间同态的可逆, 因为那样的话就不需要说明了.] 当然, 酉算子的逆也是酉算子, 鉴于 $‖ U α ‖ = ‖ α ‖$ 可以推出 $‖ U^{- 1} β ‖ = ‖ β ‖$ , 其中 $β = U α$ . [译注: 这个逆当然说的是作为映射的逆.] 既然恒等算子显然是一个酉算子, 我们看到一个内积空间上的所有酉算子构成的集合在复合运算下是一个群.

如果 $V$ 是一个有限维内积空间而 $T$ 是 $V$ 上的一个线性算子, 那么定理10告诉我们 $U$ 是酉算子当且仅当对于每个 $α, β \in V$ , $⟨ U α | U β ⟩ = ⟨ α | β ⟩$ ; 或者, 当且仅当对于某个 (或者每个) 规范正交基 ${α_{1}, \dots, α_{n}}$ , ${U α_{1}, \dots, U α_{n}}$ 也是规范正交基.

定理12. 令

U

是内积空间

V

上的一个线性算子, 那么

U

是酉算子当且仅当

U

的伴随

U^{⁎}

存在并且

U U^{⁎} = U^{⁎} U = I

证明. 设

U

是酉算子, 那么

U

是可逆的, 并且

⟨ U α | β ⟩ = ⟨ U α | U U^{- 1} β ⟩ = ⟨ α | U^{- 1} β ⟩

对于任意的

α, β \in V

成立, 因而

U^{- 1}

是

U

的伴随.
反过来, 设

U^{⁎}

存在并且

U U^{⁎} = U^{⁎} U = I

, 那么

U

是可逆的, 而

U^{- 1} = U^{⁎}

. 于是, 剩下来我们要做的事情就只是证明

U

保持内积. 对于任意的

α, β \in V

, 我们有

\begin{array}{rcl} ⟨ U α | U β ⟩ & = & ⟨ α | U^{⁎} U β ⟩ \\ = & ⟨ α | I β ⟩ \\ = & ⟨ α | β ⟩ \end{array}

◻

例子26. 考虑带有标准内积的

ℂ^{n \times 1}

, 令

A

是域

ℂ

上的一个

n \times n

矩阵,

U

是由

U (X) = A X

定义的线性算子, 那么对于每个

X, Y \in ℂ^{n \times 1}

有

⟨ U X | U Y ⟩ = ⟨ A X | A Y ⟩ = Y^{⁎} A^{⁎} A X

因此,

U

是酉算子当且仅当

A^{⁎} A = I

定义. 一个

n \times n

的复矩阵被称为酉矩阵, 如果

A^{⁎} A = I

. [译注: 这里提及了复矩阵, 也就包括了实矩阵的情况, 鉴于实数域是复数域的子域.]

定理13. 令

V

是一个有限维内积空间而

U

是

V

上的一个线性算子, 那么

U

是酉算子当且仅当

U

在某个 (或者每个) 有序规范正交基下的表示是酉矩阵.

证明. 在当前阶段, 这不太算是一个定理, 我们陈述该定理主要是为了强调一下. 如果

𝔅 = {α_{1}, \dots, α_{n}}

是

V

的一个有序规范正交基, 而

A

是

U

相对于

𝔅

的矩阵, 那么

A^{⁎} A = I

当且仅当

U^{⁎} U = I

. 现在这个结果可由定理12直接推出.

◻

令 $A$ 是一个 $n \times n$ 的复矩阵, 那么陈述 $A$ 为酉矩阵即意味着 ${(A^{⁎} A)}_{j, k} = δ_{j, k}$ 或者 $\sum_{r = 1}^{n} {\overline{A}}_{r, j} A_{r, k} = δ_{j, k} .$ 换言之, $A$ 的列相对于标准内积 $⟨ X | Y ⟩ = Y^{⁎} X$ 构成了一个规范正交集合. 既然 $A^{⁎} A = I$ 当且仅当 $A A^{⁎} = I$ , 我们看到 $U$ 是酉矩阵恰当 $A$ 的行在带有标准内积的 $ℂ^{n}$ 中构成了一个规范正交集合. [译注: 在本书中, 作者将 $ℂ^{1 \times n}$ 和 $ℂ^{n}$ 视为完全相同的.] 因此, 使用标准内积, $A$ 是酉矩阵当且仅当 $A$ 的行和列都构成了规范正交集合. 这里读者看到了展现矩阵的单边逆也是双边逆这个定理的威力的一例. 按照以上方式应用该定理于实矩阵, 我们得到了以下结果: 设我们有一个实方阵, 其每一行的元素的平方和为 $1$ 而不同的行是正交的, 那么每一列的元素的平方和也为 $1$ , 并且不同的列是正交的. [译注: 相对于标准内积而言. 当然, 这本质上只是对于实数域上的方阵重复了一下刚才的结果.] 若是读者对于 $3 \times 3$ 的情形写下证明而不诉诸于任何矩阵的知识, 那么他应该会对于矩阵的单边逆可以推出双边逆印象深刻.

定义. 一个实或复的

n \times n

矩阵

A

被称为是正交矩阵, 如果

A^{t} A = I

一个实正交矩阵是酉矩阵; 并且, 一个酉矩阵是正交矩阵当且仅当其每个元素都是实数.

译者注记. 读者应该注意一下, 这里的定义与其他材料稍有不同. 一般而言, 当提起酉矩阵的时候, 人们默认这是一个复矩阵; 当提起正交矩阵的时候, 人们默认这是一个实矩阵. 显然, 正交矩阵即酉矩阵被限制为实情形得到的概念. 或者说, 酉矩阵即正交矩阵在复情形上的推广. 当然, 只要读者稍加注意, 就不会有什么问题.

例子27. 我们给出一些酉矩阵和正交矩阵的例子.

$1 \times 1$ 的矩阵 $[\begin{matrix} c \end{matrix}]$ 是正交矩阵当且仅当 $c = \pm 1$ , 是酉矩阵当且仅当 $c \overline{c} = 1$ . 后一个条件即 $| c | = 1$ , 或者 $c = e^{i θ}$ , 其中 $θ$ 是实数.
令 $A = [\begin{matrix} a & b \\ c & d \end{matrix}]$ 那么 $A$ 是正交矩阵当且仅当 $A^{t} = A^{- 1} = \frac{1}{a d - b c} [\begin{array}{r} d & - b \\ - c & a \end{array}] .$ 显然, 任何正交矩阵的行列式都是 $\pm 1$ . 因此, $A$ 是正交矩阵当且仅当 $A = [\begin{array}{r} a & b \\ - b & a \end{array}]$ 或者 $A = [\begin{array}{r} a & b \\ b & - a \end{array}]$ 其中 $a^{2} + b^{2} = 1$ . 这两种情形由 $\det (A)$ 的值区分.
三角函数之间的关系表明 $A_{θ} = [\begin{array}{r} \cos θ & - \sin θ \\ \sin θ & \cos θ \end{array}]$ 是正交矩阵. 如果 $θ$ 是一个实数, 那么 $A_{θ}$ 即平面上逆时针旋转 $θ$ 的线性变换 $U_{θ}$ 在 $ℝ^{2}$ 的标准有序基下的矩阵. 此时, 鉴于 $A_{θ}$ 是一个实正交矩阵, 因而 $A_{θ}$ 是一个酉矩阵, 那么 $U_{θ}$ 是一个酉算子, 即保持点积.
令 $A = [\begin{matrix} a & b \\ c & d \end{matrix}]$ 那么 $A$ 是酉矩阵当且仅当 $[\begin{matrix} \overline{a} & \overline{c} \\ \overline{b} & \overline{d} \end{matrix}] = \frac{1}{a d - b c} [\begin{array}{r} d & - b \\ - c & a \end{array}] .$ 酉矩阵的行列式具有绝对值 $1$ , 因而是一个具有 $e^{i θ}$ 形式的复数, 其中 $θ$ 是实数. 于是, $A$ 是酉矩阵当且仅当 $A = [\begin{matrix} a & b \\ - e^{i θ} \overline{b} & e^{i θ} \overline{a} \end{matrix}] = [\begin{matrix} 1 & 0 \\ 0 & e^{i θ} \end{matrix}] [\begin{array}{r} a & b \\ - \overline{b} & \overline{a} \end{array}]$ 其中 $θ$ 是一个实数而 $a$ 和 $b$ 是满足 ${| a |}^{2} + {| b |}^{2} = 1$ 的复数.

正如我们之前所注意到的, 一个内积空间上的酉算子构成了一个群. 根据这个观察以及定理13, 我们可以推出由所有 $n \times n$ 的酉矩阵构成的集合 $U (n)$ 也是一个群. 因此, 酉矩阵的逆和两个酉矩阵之积都是酉矩阵. 当然, 直接看出来也是很简单的. 一个 $n \times n$ 的复矩阵 $A$ 是酉矩阵当且仅当 $A^{- 1} = A^{⁎}$ . 因此, 如果 $A$ 是酉矩阵, 我们有 ${(A^{- 1})}^{- 1} = A = {(A^{⁎})}^{- 1} = {(A^{- 1})}^{⁎}$ . 如果 $A$ 和 $B$ 是 $n \times n$ 的酉矩阵, 那么 ${(A B)}^{- 1} = B^{- 1} A^{- 1} = B^{⁎} A^{⁎} = {(A B)}^{⁎}$ . [译注: 似乎直接按照酉矩阵的定义进行证明反而更简单.]

$ℂ^{n}$ 中的Gram-Schmidt过程对于牵涉群 $U (n)$ 的矩阵具有一个有趣的推论.

定理14. 对于每个

n \times n

的可逆复矩阵

B

, 存在唯一的主对角线元素皆为正数的下三角矩阵

M

使得

M B

是酉矩阵.

证明.

B

的行

β_{1}, \dots, β_{n}

构成了

ℂ^{n}

的一个基. 应用Gram-Schmidt过程于

β_{1}, \dots, β_{n}

, 我们得到了

ℂ^{n}

的一个正交基

α_{1}, \dots, α_{n}

, 其中

α_{k} = β_{k} - \sum_{j = 1}^{k - 1} \frac{⟨ β_{k} | α_{j} ⟩}{{‖ α_{j} ‖}^{2}} α_{j} .

因此, 对于每个

k

, 存在唯一的标量

C_{k, j}

使得

α_{k} = β_{k} - \sum_{j = 1}^{k - 1} C_{k, j} β_{j} .

令

U

是以

\frac{α_{1}}{‖ α_{1} ‖}, \dots, \frac{α_{n}}{‖ α_{n} ‖}

为行的酉矩阵, 而

M

是由

M_{k, j} = {\begin{matrix} - \frac{C_{k, j}}{‖ α_{k} ‖} & , 如果 j < k \\ \frac{1}{‖ α_{k} ‖} & , 如果 j = k \\ 0 & , 如果 j > k \end{matrix}

定义的矩阵. 那么,

M

是下三角矩阵 (意即主对角线的上面的元素均为

0

M

的主对角线上的元素均大于

0

, 并且

\frac{α_{k}}{‖ α_{k} ‖} = \sum_{j = 1}^{n} M_{k, j} β_{j}, 1 \leq k \leq n .

此即是说

U = M B .

为了证明

M

的唯一性, 令

T^{+} (n)

代表所有主对角线元素均为正数的下三角矩阵构成的集合. 设

M_{1}, M_{2} \in T^{+} (n)

满足

M_{1} B, M_{2} B \in U (n)

, 那么因为

U (n)

是一个群, 我们有

(M_{1} B) {(M_{2} B)}^{- 1} = M_{1} M_{2}^{- 1} \in U (n) .

另一方面, 虽然并不全然明显, 但是

T^{+} (n)

在矩阵乘法下也是一个群. 一种看出这点的方法是考虑列矩阵的空间上的线性变换

M \mapsto M X, M \in T^{+} (n)

的几何性质. 因此,

M_{2}^{- 1}, M_{1} M_{2}^{- 1}, {(M_{1} M_{2}^{- 1})}^{- 1} \in T^{+} (n)

. 但是, 既然

M_{1} M_{2}^{- 1} \in U (n)

, 我们知道

{(M_{1} M_{2}^{- 1})}^{- 1} = {(M_{1} M_{2}^{- 1})}^{⁎}

. 鉴于任何下三角矩阵的转置或者共轭转置都是上三角矩阵, 所以

M_{1} M_{2}^{- 1}

既是上三角矩阵又是下三角矩阵. 换言之, 就是对角矩阵. 一个对角矩阵是酉矩阵当且仅当其每个对角线元素均具有绝对值

1

; 若是对角线元素都为正数, 那么它们只能全等于

1

. 因此,

M_{1} M_{2}^{- 1} = I

, 即

M_{1} = M_{2}

◻

译者注记. 译者也没太明白怎么利用几何性质说明

T^{+} (n)

是一个群, 但是当然还有其他方式. 例如, 通过和以上证明相同的手法 (其中的酉矩阵就是恒等矩阵), 我们可以证明

T^{+} (n)

中的矩阵的逆必然也是

T^{+} (n)

的元素. 另外,

T^{+} (n)

显然对于乘法封闭, 所以

T^{+} (n)

是一个群.

令 $GL (n)$ 代表所有 $n \times n$ 的可逆复矩阵构成的集合, 那么 $GL (n)$ 在矩阵乘法下也是一个群. 这个群被称为一般线性群. 定理14等价于以下结果.

推论. 对于每个

B \in GL (n)

, 存在唯一的

N \in T^{+} (n)

和

U \in U (n)

使得

B = N U .

证明. 根据定理14, 存在唯一的矩阵

M \in T^{+} (n)

使得

M B \in U (n)

. 令

U = M B

而

N = M^{- 1}

, 那么

N \in T^{+} (n)

而

B = N U

. 另一方面, 若

N \in T^{+} (n)

和

U \in U (n)

满足

B = N U

, 那么

N^{- 1} B \in U (n)

, 其中

N^{- 1}

即是由定理14刻画的唯一的矩阵

M

. 而且,

U

必然为

N^{- 1} B

◻

例子28. 令

x_{1}

和

x_{2}

是满足

x_{1}^{2} + x_{2}^{2} = 1

的实数, 并且

x_{1} \neq 0

. 令

B = [\begin{matrix} x_{1} & x_{2} & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{matrix}] .

应用Gram-Schmidt过程于

B

的行, 我们会得到向量

\begin{array}{rcl} α_{1} & = & (x_{1}, x_{2}, 0) \\ α_{2} & = & (0, 1, 0) - x_{2} (x_{1}, x_{2}, 0) \\ = & x_{1} (- x_{2}, x_{1}, 0) \\ α_{3} & = & (0, 0, 1) \end{array}

令

U

是以

α_{1}, (α_{2} / x_{1}), α_{3}

为行的矩阵, 那么

U

是酉矩阵, 并且

U = [\begin{array}{r} x_{1} & x_{2} & 0 \\ - x_{2} & x_{1} & 0 \\ 0 & 0 & 1 \end{array}] = [\begin{matrix} 1 & 0 & 0 \\ - \frac{x_{2}}{x_{1}} & \frac{1}{x_{1}} & 0 \\ 0 & 0 & 1 \end{matrix}] [\begin{matrix} x_{1} & x_{2} & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{matrix}] .

现在左乘

M = [\begin{matrix} 1 & 0 & 0 \\ - \frac{x_{2}}{x_{1}} & \frac{1}{x_{1}} & 0 \\ 0 & 0 & 1 \end{matrix}]

的逆, 我们得到

[\begin{matrix} x_{1} & x_{2} & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{matrix}] = [\begin{matrix} 1 & 0 & 0 \\ x_{2} & x_{1} & 0 \\ 0 & 0 & 1 \end{matrix}] [\begin{array}{r} x_{1} & x_{2} & 0 \\ - x_{2} & x_{1} & 0 \\ 0 & 0 & 1 \end{array}] .

现在让我们来简要考虑一下内积空间的坐标变换. 设 $V$ 是一个有限维内积空间, $𝔅 = {α_{1}, \dots, α_{n}}$ 和 $𝔅^{'} = {α_{1}^{'}, \dots, α_{n}^{'}}$ 是 $V$ 的两个规范正交基, 那么存在唯一的(必然可逆的) $n \times n$ 矩阵 $P$ 使得 ${[α]}_{𝔅^{'}} = P^{- 1} {[α]}_{𝔅}$ 对于每个 $α \in V$ 成立. 如果 $U$ 是由 $U α_{j} = α_{j}^{'}$ 定义的唯一的 $V$ 上的线性算子, 那么 $P$ 是 $U$ 在有序基 $𝔅$ 下的矩阵: $α_{k}^{'} = \sum_{j = 1}^{n} P_{j, k} α_{j} .$ 既然 $𝔅$ 和 $𝔅^{'}$ 都是规范正交基, 那么 $U$ 是一个酉算子而 $P$ 是一个酉矩阵. 如果 $T$ 是 $V$ 上的一个线性算子, 那么 ${[T]}_{𝔅^{'}} = P^{- 1} {[T]}_{𝔅} P = P^{⁎} {[T]}_{𝔅} P .$

定义. 令

A

和

B

是

n \times n

的复矩阵. 我们称

B

酉等价于

A

, 如果存在一个

n \times n

的酉矩阵

P

使得

B = P^{- 1} A P

. 我们称

B

正交等价于

A

, 如果存在一个

n \times n

的正交矩阵使得

B = P^{- 1} A P

译者注记. 当然, 以上定义中, 酉等价里的

P^{- 1} A P

可以换成

P^{⁎} A P

, 正交等价里的

P^{- 1} A P

可以换成

P^{t} A P

. 另外, 酉等价也可以被称为酉相似, 正交等价也可以被称为正交相似.

根据这个定义, 我们可以重新表述以上的观察如下: 如果 $𝔅$ 和 $𝔅^{'}$ 是 $V$ 的两个规范正交基, 那么 ${[T]}_{𝔅^{'}}$ 酉等价于 ${[T]}_{𝔅}$ . 在 $V$ 是实内积空间的情形下, 这些矩阵是正交等价的, 通过一个实正交矩阵.

练习1. 找出一个不是正交矩阵的酉矩阵, 以及一个不是酉矩阵的正交矩阵.

练习2. 令

V

是

ℂ^{n \times n}

, 带有通常内积

⟨ A | B ⟩ = tr (A B^{⁎})

. 对于每个

M \in A

, 令

T_{M} (A) = M A

是

V

上的线性算子. 证明

T_{M}

是一个酉算子当且仅当

M

是一个酉矩阵.

练习3. 令

V

是被当作实向量空间的复数域.

表明 $⟨ α | β ⟩ = Re (α \overline{β})$ 定义了一个 $V$ 上的内积.
找出一个从 $V$ 到带有标准内积的 $ℝ^{2}$ 的(内积空间的)同构.
对于每个 $γ \in V$ , 令 $M_{γ} (α) = γ α$ 是 $V$ 上的线性算子, 证明 ${(M_{γ})}^{⁎} = M_{\overline{γ}}$ .
对于什么样的复数 $γ$ , $M_{γ}$ 是自伴算子?
对于什么样的复数 $γ$ , $M_{γ}$ 是酉算子?
对于什么样的复数 $γ$ , $M_{γ}$ 是正定算子? [译注: 正定算子的定义见第9.3节.]
$\det (M_{γ})$ 是多少?
找出 $M_{γ}$ 在基 ${1, i}$ 下的矩阵.
如果 $T$ 是 $V$ 上的一个线性算子, 找出存在 $γ \in ℂ$ 使得 $T = M_{γ}$ 的充要条件.
找出一个 $V$ 上的酉算子 $U$ , 但是不存在 $γ \in ℂ$ 使得 $U = M_{γ}$ .

练习4. 令

V

是带有标准内积的

ℝ^{2}

. 如果

U

是

V

上的一个酉算子, 证明

U

在标准有序基下的矩阵是

[\begin{array}{r} \cos θ & - \sin θ \\ \sin θ & \cos θ \end{array}] 或者 [\begin{array}{r} \cos θ & \sin θ \\ \sin θ & - \cos θ \end{array}]

其中

0 \leq θ < 2 π

. 令

U_{θ}

是在标准有序基下以

[\begin{array}{r} \cos θ & - \sin θ \\ \sin θ & \cos θ \end{array}]

为矩阵表示的线性算子, 即

U_{θ}

是逆时针旋转

θ

的变换. 现在读者应该说服自己,

V

上的每个酉矩阵, 要么是一个旋转, 要么是一个关于

ε_{1}

轴的反射接着一个旋转. [译注: 对于后一种变换, 另外一种描述方法是关于角度为

θ / 2

的轴的反射.]

$U_{θ} U_{ϕ}$ 是什么?
表明 $U_{θ}^{⁎} = U_{- θ}$ .
令 $ϕ$ 是一个固定的实数, $𝔅 = {α_{1}, α_{2}}$ 是由 ${ε_{1}, ε_{2}}$ 经过逆时针旋转 $ϕ$ 得到的规范正交基, 即 $α_{j} = U_{ϕ} ε_{j}$ . 如果 $θ$ 是另一个实数, 那么 $U_{θ}$ 在有序基 $𝔅$ 下的矩阵是什么?

练习5. 令

V

是带有标准内积的

ℝ^{3}

. 令

W

是由

α = (1, 1, 1)

和

β = (1, 1, - 2)

张成的平面. 令

U

是按照以下方式几何地定义的线性算子:

U

是关于过原点正交于

W

的直线旋转

θ

的变换. 实际上存在两种这样的旋转, 选择一个即可. 找出

U

在标准有序基下的矩阵. (这里给出一种可行的方法. 找到

W

的一个规范正交基

α_{1}

和

α_{2}

. 令

α_{3}

是正交于

W

且范数为

1

的向量. 找出

U

在基

{α_{1}, α_{2}, α_{3}}

的矩阵. 施行一次基变换.)

练习6. 令

V

是有限维的内积空间,

W

是

V

的一个子空间, 那么

V = W \oplus W^{⊥}

, 即每个

α \in V

都可以唯一地被表示为

α = β + γ

的形式, 其中

β \in W

而

γ \in W^{⊥}

. 我们定义线性算子

U α = β - γ

证明 $U$ 既是自伴算子又是酉算子.
如果 $V$ 是带有标准内积的 $ℝ^{3}$ 而 $W$ 是由 $(1, 0, 1)$ 张成的子空间, 找出 $U$ 在标准有序基下的矩阵.

练习7. 令

V

是一个复内积空间而

T

是

V

上的一个自伴线性算子, 证明

$‖ α + i T α ‖ = ‖ α - i T α ‖$ .
$α + i T α = β + i T β$ 当且仅当 $α = β$ .
$I + i T$ 是非奇异的.
$I - i T$ 是非奇异的.
现在设 $V$ 是有限维的, 证明 $U = (I - i T) {(I + i T)}^{- 1}$ 是一个酉算子. $U$ 被称为 $T$ 的Cayley变换. 在某种意义上说, 令 $f (x) = (1 - i x) / (1 + i x)$ , 那么 $U = f (T)$ .

练习8. 如果

θ

是一个实数, 证明

[\begin{array}{r} \cos θ & - \sin θ \\ \sin θ & \cos θ \end{array}] 和 [\begin{matrix} e^{i θ} & 0 \\ 0 & e^{- i θ} \end{matrix}]

是酉等价的.

练习9. 令

V

是一个有限维内积空间而

T

是

V

上的一个正定算子. 令

p_{T} (α, β) = ⟨ T α | β ⟩

是

V

上的内积. 令

U

是

V

上的一个线性算子而

U^{⁎}

是其相对于

⟨ | ⟩

的伴随. 证明

U

是相对于内积

p_{T}

的酉算子当且仅当

T = U^{⁎} T U

练习10. 令

V

是一个有限维内积空间, 对于每个

α, β \in V

, 定义

V

上的线性算子

T_{α, β} (γ) = ⟨ γ | β ⟩ α

, 证明以下命题.

$T_{α, β}^{⁎} = T_{β, α}$ .
$trace (T_{α, β}) = ⟨ α | β ⟩$ .
$T_{α, β} T_{γ, δ} = T_{α, ⟨ β | γ ⟩ δ}$ .
在何种条件下 $T_{α, β}$ 是自伴算子?

练习11. 令

V

是域

F

上的一个

n

维内积空间,

L (V, V)

是

V

上的所有线性算子构成的空间, 证明

L (V, V)

上存在唯一的一个内积使得对于任意的

α, β \in V

‖ T_{α, β} ‖ = {‖ α ‖}^{2} {‖ β ‖}^{2}

, 其中

T_{α, β}

是练习10中那样定义的线性算子. 找到一个带有此内积的

L (V, V)

和带有内积

⟨ A | B ⟩ = tr (A B^{⁎})

的空间

F^{n \times n}

之间的同构.

练习12. 令

V

是一个有限维内积空间. 在练习6中, 我们展示了如何构造一个

V

上既自伴又酉的算子. 现在证明对于每个

V

上的自伴酉算子, 都存在一个子空间

W

使得这个算子可由练习6中所描述的方法构造出来.

练习13. 令

V

和

W

是有限维内积空间,

U

是从

V

到

W

的同构, 证明

映射 $T \mapsto U T U^{- 1}$ 是从向量空间 $L (V, V)$ 到向量空间 $L (W, W)$ 的同构.
对于每个 $T \in L (V, V)$ , $trace (U T U^{- 1}) = trace (T)$ .
$U T_{α, β} U^{- 1} = T_{U α, U β}$ , 其中 $T_{α, β}$ 于练习10中被定义.
${(U T U^{- 1})}^{⁎} = U T^{⁎} U^{- 1}$ .
如果我们装备 $L (V, V)$ 以内积 $⟨ T_{1} | T_{2} ⟩ = trace (T_{1} T_{2}^{⁎})$ , 并以类似的方式定义 $L (W, W)$ 上的内积, 那么 $T \mapsto U T U^{- 1}$ 是一个内积空间的同构.

练习14. 如果

V

是一个内积空间, 那么刚体运动是满足对于每个

α, β \in V

有

‖ T α - T β ‖ = ‖ α - β ‖

的映射

T : V \to V

, 其中

T

不必是线性变换. 酉算子是刚体运动的一个例子. 另外一个例子是平移一个固定的向量

γ

T_{γ} (α) = α + γ .

令 $V$ 是带有标准内积的 $ℝ^{2}$ , 设 $T$ 是 $V$ 的一个刚体运动, 并且 $T (0) = 0$ , 证明 $T$ 是线性的, 而且是一个酉算子.
使用a的结果证明每个 $ℝ^{2}$ 的刚体运动都是由一个平移接着一个酉算子复合而成的.
现在证明 $ℝ^{2}$ 的刚体运动要么是一个平移接着一个旋转, 要么是一个平移接着一个反射接着一个旋转.

练习15.

ℝ^{4}

(带有标准内积) 上的酉算子不过就是保持二次形式

{‖ (x, y, z, t) ‖}^{2} = x^{2} + y^{2} + z^{2} + t^{2}

的线性算子, 即对于每个

α \in ℝ^{4}

满足

{‖ U α ‖}^{2} = {‖ α ‖}^{2}

的线性算子

U

. 在相对论的特定部分中, 寻找保持形式

{‖ (x, y, z, t) ‖}_{L}^{2} = t^{2} - x^{2} - y^{2} - z^{2}

的线性算子

T

是令人感兴趣的.

{‖ ‖}_{L}^{2}

并不来源于内积, 而是某种被称为"Lorentz度量"的东西 (我们不会深入讨论这个). 出于这种原因,

ℝ^{4}

上的线性变换

T

, 若满足对于每个

α \in ℝ^{4}

都有

{‖ T α ‖}_{L}^{2} = {‖ α ‖}_{L}^{2}

, 则被称为Lorentz变换.

说明由 $U (x, y, z, t) = [\begin{matrix} t + x & y + i z \\ y - i z & t - x \end{matrix}]$ 定义的函数 $U$ 是从 $ℝ^{4}$ 到由所有 $2 \times 2$ 的自伴复矩阵构成的实向量空间 $H$ 的同构.
说明 ${‖ α ‖}_{L}^{2} = \det (U α)$ .
设 $T$ 是 $H$ 上的一个(实)线性算子, 说明 $L = U^{- 1} T U$ 是 $ℝ^{4}$ 上的线性算子.
令 $M$ 是任意的 $2 \times 2$ 复矩阵, 说明 $T_{M} (A) = M^{⁎} A M$ 定义了一个 $H$ 上的线性算子. (一定要检查 $T_{M}$ 的确将 $H$ 映入 $H$ .)
如果 $M \in ℂ^{2 \times 2}$ 满足 $| \det (M) | = 1$ , 说明 $L_{M} = U^{- 1} T_{M} U$ 是 $ℝ^{4}$ 上的一个Lorentz变换.
找到一个这样的Lorentz变换 $L$ , 不存在 $M \in ℂ^{2 \times 2}$ 使得 $L = L_{M}$ .

第8.5节正规算子

本节的主要目标在于解决以下问题. 如果 $T$ 是有限维内积空间 $V$ 上的一个线性算子, 在何种条件下 $V$ 拥有一个由 $T$ 的特征向量构成的规范正交基? 换言之, 何时存在 $V$ 的一个规范正交基 $𝔅$ 使得 $T$ 在 $𝔅$ 下的表示是一个对角矩阵.

我们先来推导一些 $T$ 上的必要条件, 之后我们将逐步证明这些条件也是充分的. 设 $𝔅 = {α_{1}, \dots, α_{n}}$ 是 $V$ 的一个规范正交基, 并且满足性质 $T α_{j} = c_{j} α_{j}, j = 1, \dots, n .$ 这不过就是在说 $T$ 在有序基 $𝔅$ 下的表示是以 $c_{1}, \dots, c_{n}$ 为对角线元素的对角矩阵. 伴随算子 $T^{⁎}$ 在相同的有序基下的表示是该矩阵的共轭转置, 即以 ${\overline{c}}_{1}, \dots, {\overline{c}}_{n}$ 为对角线元素的对角矩阵. 如果 $V$ 是一个实内积空间, 标量 $c_{1}, \dots, c_{n}$ 都是实数, 因而必然有 $T = T^{⁎}$ . 换言之, 对于有限维实内积空间 $V$ 和其上的线性算子 $T$ , 若存在一个全由 $T$ 的特征向量构成的规范正交基, 那么 $T$ 必然是自伴算子. 如果 $V$ 是复内积空间, 那么标量 $c_{1}, \dots, c_{n}$ 不必是实数, $T$ 也就不必是自伴的了. 但是, 我们应该注意到 $T$ 必然满足 $T T^{⁎} = T^{⁎} T .$ 这是因为, 任意的两个对角矩阵都是交换的, 而 $T$ 和 $T^{⁎}$ 同时在有序基 $𝔅$ 下由对角矩阵表示. [译注: 读者可以回忆一下第6.5节的内容, 交换是同时对角化的充要条件.] 有趣的是, 在复情形下, 交换的条件实际上足以推出全由特征向量构成的规范正交基的存在性.

定义. 令

V

是一个有限维内积空间而

T

是

V

上的一个线性算子, 我们称

T

为正规算子, 如果其与它的伴随交换, 即

T T^{⁎} = T^{⁎} T

任意的自伴算子都是正规算子, 任意的酉算子也是正规算子. 正规算子的任意标量倍数都是正规的; 然而, 正规算子之和与积并不一定是正规的. 尽管并非必要, 我们将从考虑自伴算子开始我们对于正规算子的研究.

定理15. 如果

V

是一个内积空间而

T

是

V

上的一个自伴算子, 那么

T

的特征值均为实数, 且不同的特征值所对应的特征向量之间是正交的.

证明. 设

c

是

T

的一个特征值, 那么存在

α \neq 0

使得

T α = c α

, 于是

\begin{array}{rcl} c ⟨ α | α ⟩ & = & ⟨ c α | α ⟩ \\ = & ⟨ T α | α ⟩ \\ = & ⟨ α | T α ⟩ \\ = & ⟨ α | c α ⟩ \\ = & \overline{c} ⟨ α | α ⟩ \end{array}

鉴于

⟨ α | α ⟩ \neq 0

, 我们必然有

c = \overline{c}

. 现在设我们也有

β \neq 0

满足

T β = d β

, 那么

\begin{array}{rcl} c ⟨ α | β ⟩ & = & ⟨ T α | β ⟩ \\ = & ⟨ α | T β ⟩ \\ = & ⟨ α | d β ⟩ \\ = & \overline{d} ⟨ α | β ⟩ \\ = & d ⟨ α | β ⟩ \end{array}

如果

c \neq d

, 那么

⟨ α | β ⟩ = 0

◻

应该指出的是, 定理15并没有断言特征值或者说特征向量一定存在.

定理16. 在有限维内积空间上 (除开仅包含零向量的平凡空间), 每个自伴算子都拥有一个特征向量.

译者注记. 原文给特征向量之前加上了带括号的"non-zero", 这可能是为第6章找补, 因为那里的定义将零向量也视为特征向量. 但是, 自从第7章开始, 本书所提的特征向量的概念, 就不再包含零向量了, 这也与通行的定义保持一致.

证明. 令

V

是一个

n

维内积空间, 其中

n > 0

, 而

T

是

V

上的一个自伴算子. 挑选

V

的一个规范正交基

𝔅

而令

A = {[T]}_{𝔅}

, 既然

T = T^{⁎}

, 我们有

A = A^{⁎}

. 现在令

W

是带有标准内积的

ℂ^{n \times 1}

, 那么

U (X) = A X

定义了一个

W

上的自伴算子. 对于特征多项式

\det (x I - A)

, 我们知道其在域

ℂ

上至少拥有一个根

c

. 鉴于

U

是自伴算子, 根据定理15,

c

是实数. 换言之, 存在

c \in ℝ

使得

A - c I

是奇异的. 若

V

是复内积空间, 那么证明算是结束了, 因为

T - c I

是奇异的. 而对于实内积空间

V

, 我们最好回忆一下第1章关于线性方程组的观察. 也就是说, 如果以

A - c I

为系数矩阵的齐次线性方程组在复数域上有非平凡解, 那么其在实数域上也应该有非平凡解, 即

A - c I

在实数域上当然也是奇异的. 因此,

T - c I

是奇异的, 存在非零的向量

α \in V

使得

T α = c α

◻

关于这个证明, 我们应该作出数条评注.

在复情形下, 即便 $A$ 不是Hermite矩阵 (或者说自伴矩阵), 也不影响 $A$ 具有特征值和特征向量. 但是, 在实情形下, 自伴的条件就显得非常重要了, 因为它可以告诉我们 $A$ 的特征多项式在域 $ℂ$ 上的根均为实数.
Hermite矩阵的特征多项式的系数一定是实数, 即便矩阵的各个元素可能不都是实数.
对于 $A$ 是有限维空间的假设是必要的, 无限维内积空间上的自伴算子可能没有特征值.

例子29. 令

V

是单位区间上的连续复值 (或者实值) 函数构成的向量空间, 带有内积

⟨ f | g ⟩ = \int_{0}^{1} f (t) \overline{g (t)} d t .

"乘上

t

"的算子

(T f) (t) = t f (t)

是自伴的. 让我们设

T f = c f

, 那么

(t - c) f (t) = 0, 0 \leq t \leq 1

于是,

t \neq c

时

f (t) = 0

. 鉴于

f

是连续的,

f = 0

, 因而

T

没有特征值.

定理17. 令

V

是一个有限维内积空间,

T

是

V

上任意的线性算子. 设

W

是一个

T

不变子空间, 那么

W

的正交补在

T^{⁎}

下不变.

证明. 设

β \in W^{⊥}

, 对于每个

α \in W

, 因为

W

在

T

下不变, 所以

T α \in W

, 那么

⟨ α | T^{⁎} β ⟩ = ⟨ T α | β ⟩ = 0 .

换言之,

T^{⁎} β \in W^{⊥}

, 即

W^{⊥}

在

T^{⁎}

下不变.

◻

定理18. 令

V

是一个有限维内积空间,

T

是

V

上的一个自伴算子, 那么存在一个全由

T

的特征向量构成的

V

的规范正交基.

证明. 不妨设

\dim V > 0

. 根据定理16,

T

拥有一个特征向量

α

. 令

α_{1} = α / ‖ α ‖

, 那么

α_{1}

也是

T

的一个特征向量, 并且

‖ α_{1} ‖ = 1

. 如果

\dim V = 1

, 证明就结束了. 不然的话, 我们对于

V

的维数施行归纳. 设定理对于维数小于

\dim V

的内积空间成立. 令

W

是由

α_{1}

张成的一维子空间. 既然

α_{1}

是

T

的特征向量, 那么

W

在

T

下不变. 根据定理17, 正交补

W^{⊥}

在

T^{⁎} = T

下不变. 现在

W^{⊥}

在继承自

V

的内积下成为了一个

\dim V - 1

维的内积空间. 令

U

是

T

在

W^{⊥}

上由限制导出的算子, 那么

U

是自伴的. 根据归纳假设,

W^{⊥}

拥有一个以

U

的特征向量构成的规范正交基

{α_{2}, \dots, α_{n}}

. 当然,

U

的特征向量自然也是

T

的特征向量. 因此, 我们可以断言

{α_{1}, \dots, α_{n}}

即是我们所要的

V

的基.

◻

推论. 令

A

是一个

n \times n

的Hermite矩阵 (自伴矩阵), 那么存在一个酉矩阵

P

使得

P^{- 1} A P

是对角矩阵. (或者说,

A

酉等价于一个对角矩阵.) 若

A

是一个实对称矩阵, 那么存在一个实正交矩阵

P

使得

P^{- 1} A P

成为对角矩阵.

证明. 令

V

是带有标准内积的

ℂ^{n \times 1}

, 而

T

是在标准有序基下由

A

表示的线性算子. 既然

A = A^{⁎}

, 我们有

T = T^{⁎}

. 令

𝔅 = {α_{1}, \dots, α_{n}}

是一个全由

T

的特征向量构成的

V

的规范正交基, 我们设

T α_{j} = c_{j} α_{j}, j = 1, \dots, n

. 如果

D = {[T]}_{𝔅}

, 那么

D

是以

c_{1}, \dots, c_{n}

为对角线元素的对角矩阵. 考虑由

U ε_{j} = α_{j}

定义的线性算子

U

, 令

P

是

U

在标准有序基下的表示. 那么,

P

是一个酉矩阵, 并且

D = P^{- 1} A P

.
对于推论的后半部分, 实际上取

V

为带有标准内积的

ℝ^{n \times 1}

然后重复前述论证即可. 在此情形下,

P

仍然是一个酉矩阵, 只是其元素都是实数, 因而也是一个正交矩阵.

◻

将定理18与本节开头的评注相结合, 我们就得到了以下结果: 如果 $V$ 是一个有限维实内积空间, 而 $T$ 是 $V$ 上的一个线性算子, 那么 $V$ 拥有一个全由 $T$ 的特征向量构成的规范正交基当且仅当 $T$ 是自伴算子. 等价地, 如果 $A$ 是一个 $n \times n$ 的实矩阵, 那么存在实正交矩阵 $P$ 使得 $P^{t} A P$ 为对角矩阵当且仅当 $A = A^{t}$ . 对于复对称矩阵我们没有这样的结果. 换言之, 对于复矩阵而言, 条件 $A = A^{t}$ 和 $A = A^{⁎}$ 有着显著的不同之处.

译者注记. 实矩阵的正交相似对角化的充要条件为对称.

解决了自伴的情况, 我们现在回到对于正规算子的一般性研究上来. 我们将在复情形下对于正规算子证明定理18的类似物. 之所以我们要限制于复情形, 一个原因在于实内积空间上的正规算子可能压根就没有任何特征向量. 例如, $ℝ^{2}$ 中的旋转, 除开旋转 $0$ 度和 $180$ 度这两种特殊情况.

定理19. 令

V

是一个有限维内积空间,

T

是

V

上的一个正规算子. 设非零向量

α \in V

, 那么

α

是

T

在特征值

c

下所对应的特征向量当且仅当

α

是

T^{⁎}

在特征值

\overline{c}

下所对应的特征向量.

证明. 设

U

是

V

上任意的正规算子, 根据

U U^{⁎} = U^{⁎} U

, 我们可以推出

\begin{array}{rcl} ⟨ U α | U α ⟩ & = & ⟨ α | U^{⁎} U α ⟩ \\ = & ⟨ α | U U^{⁎} α ⟩ \\ = & ⟨ U^{⁎} α | U^{⁎} α ⟩ \end{array}

换言之,

‖ U α ‖ = ‖ U^{⁎} α ‖

. 如果

c

是任意的标量, 那么

{(T - c I)}^{⁎} = T^{⁎} - \overline{c} I

. 我们很容易验证

T - c I

的确是一个正规算子, 于是

‖ (T - c I) α ‖ = ‖ (T^{⁎} - \overline{c} I) α ‖

因而

(T - c I) α = 0

当且仅当

(T^{⁎} - \overline{c} I) α = 0

, 证明就结束了.

◻

定义. 一个

n \times n

的复矩阵被称为正规矩阵, 如果

A A^{⁎} = A^{⁎} A

理解正规矩阵或者正规算子究竟具有什么意义并不容易. 然而, 为了建立一点对于这个概念的感觉, 或许读者知道{一个三角矩阵是一个正规矩阵当且仅当其是一个对角矩阵}是有用的.

定理20. 令

V

是一个有限维内积空间,

T

是

V

上的一个线性算子,

𝔅

是

V

的一个规范正交基. 设

T

在

𝔅

下的矩阵

A

是上三角的, 那么

T

是一个正规算子当且仅当

A

是一个对角矩阵.

证明. 既然

𝔅

是规范正交基, 那么

A^{⁎}

是

T^{⁎}

在

𝔅

下的矩阵. 若

A

是对角矩阵, 那么显然

A A^{⁎} = A^{⁎} A

, 这可以推出

T T^{⁎} = T^{⁎} T

. 反过来, 设

T

是正规算子而

𝔅 = {α_{1}, \dots, α_{n}}

. 既然

A

是上三角矩阵, 那么

T α_{1} = A_{1, 1} α_{1}

. 根据定理19,

T^{⁎} α_{1} = {\overline{A}}_{1, 1} α_{1}

. 另一方面, 我们有

\begin{array}{rcl} T^{⁎} α_{1} & = & \sum_{j = 1}^{n} {(A^{⁎})}_{j, 1} α_{j} \\ = & \sum_{j = 1}^{n} {\overline{A}}_{1, j} α_{j} \end{array}

因此, 对于每个

j > 1

A_{1, j} = 0

. 特别地,

A_{1, 2} = 0

. 鉴于

A

是上三角矩阵, 可以推出

T α_{2} = A_{2, 2} α_{2}

因而

T^{⁎} α_{2} = {\overline{A}}_{2, 2} α_{2}

, 于是对于

j > 2

A_{2, j} = 0

. 按照这种手段继续下去, 我们最终可以证明

A

的确是一个对角矩阵.

◻

定理21. 令

V

是一个有限维的复内积空间,

T

是

V

上的一个线性算子, 那么存在规范正交基使得

T

在其下的矩阵为上三角的.

证明. 设

n = \dim V

. 当

n = 1

时, 这个定理显然成立. 我们对于

n

施行归纳, 假设结果对于

n - 1

维的复内积空间上的线性算子成立. 既然

V

是一个有限维复内积空间, 那么对于伴随

T^{⁎}

而言, 存在标量

c

和单位向量

α \in V

使得

T^{⁎} α = c α .

令

W

是由

α

张成的子空间的正交补, 根据定理17,

W

在

T

下不变. 设

S

是

T

由限制于

W

上导出的算子. 既然

W

是

n - 1

维的, 归纳假设告诉我们存在

W

的一个规范正交基

{α_{1}, \dots, α_{n - 1}}

使得

S

在其下的矩阵是上三角的. 令

α_{n} = α

, 那么

{α_{1}, \dots, α_{n}}

是

V

的一个规范正交基, 并且

T

在其下的表示是一个上三角矩阵.

◻

这个定理推出了以下的矩阵版本.

推论. 对于每个

n \times n

的复矩阵

A

, 存在一个酉矩阵

U

使得

U^{- 1} A U

是上三角矩阵.

译者注记. 每个复矩阵都可以酉相似三角化 (Schur定理).

现在将定理20和定理21相结合, 我们就立即得到了定理18对于正规算子而言的类似物.

定理22. 令

V

是一个有限维复内积空间,

T

是

V

上的一个正规算子, 那么存在一个全由

T

的特征向量构成的

V

的规范正交基.

当然, 这个定理也有一个矩阵解释.

推论. 对于每个

n \times n

的(复)正规矩阵

A

, 存在一个酉矩阵

P

使得

P^{⁎} A P

是对角矩阵.

译者注记. 对于有限维复内积空间

V

, 设

T

是

V

上的一个线性算子, 那么存在

V

的一个全由

T

的特征向量构成的规范正交基 (或者说

T

在某个

V

的规范正交基下呈现对角矩阵的形式) 当且仅当

T

是一个正规算子. 另外, 复矩阵酉相似对角化的充要条件为正规.

练习1. 对于以下每个实对称矩阵

A

, 找出一个实正交矩阵

P

使得

P^{t} A P

成为对角矩阵.

[\begin{matrix} 1 & 1 \\ 1 & 1 \end{matrix}], [\begin{matrix} 1 & 2 \\ 2 & 1 \end{matrix}], [\begin{array}{r} \cos θ & \sin θ \\ \sin θ & - \cos θ \end{array}]

练习2. 复对称矩阵是自伴的吗? 是正规的吗?

练习3. 对于

A = [\begin{matrix} 1 & 2 & 3 \\ 2 & 3 & 4 \\ 3 & 4 & 5 \end{matrix}]

存在实正交矩阵

P

使得

P^{t} A P = D

是一个对角矩阵. 找出一个这样的对角矩阵

D

练习4. 令

V

是带有标准内积的

ℂ^{2}

T

是

V

上在标准有序基下由矩阵

A = [\begin{matrix} 1 & i \\ i & 1 \end{matrix}]

表示的线性算子. 证明

T

是正规算子, 并找到

V

的一个全由

T

的特征向量构成的规范正交基.

练习5. 给出一个

2 \times 2

的矩阵

A

的例子,

A^{2}

是正规的, 但是

A

不是正规的.

练习6. 令

T

是有限维复内积空间上的一个正规算子, 证明

如果 $T$ 的每个特征值都是实数, 那么 $T$ 是一个自伴算子.
如果 $T$ 的每个特征值都是正数, 那么 $T$ 是一个正定算子.
如果 $T$ 的每个特征值的绝对值均为 $1$ , 那么 $T$ 是一个酉算子.

练习7. 令

T

是有限维内积空间

V

上的一个线性算子, 设

T

既是正定算子又是酉算子, 证明

T = I

练习8. 证明有限维复内积空间上的线性算子

T

是正规的当且仅当存在交换的自伴算子

T_{1}

和

T_{2}

使得

T = T_{1} + i T_{2}

练习9. 证明实对称矩阵具有实对称立方根, 即若

A

为实对称矩阵, 则存在实对称的

B

满足

B^{3} = A

练习10. 证明每个正定矩阵都是某个正定矩阵的平方.

练习11. 设

T

是有限维复内积空间上的一个线性算子, 若

T

既是正规算子也是幂零算子, 那么

T = 0

练习12. 如果

T

是有限维内积空间上的一个正规算子, 证明

T

的不同特征值所对应的特征向量之间是正交的.

练习13. 令

T

是有限维复内积空间上的一个正规算子, 证明存在复数域上的多项式

f

使得

T^{⁎} = f (T)

. (表示

T

以对角矩阵, 看看

f

必须是什么.)

练习14. 如果有限维复内积空间上的两个正规算子交换, 证明它们的积也是正规算子.

译者注记. 以上诸多练习缺少条件, 经过译者考察, 绝大部分都应该是有限维复内积空间. 实际上, 读者也可以看到, 虽然正文中的正规算子也可以定义在实内积空间上, 但是理论构建的主要结果中只考虑复内积空间上的正规算子.

线性代数

第8章 内积空间

第8.1节 内积

第8.2节 内积空间

第8.3节 线性泛函和伴随

第8.4节 酉算子

第8.5节 正规算子

第8章内积空间

第8.1节内积

第8.2节内积空间

第8.3节线性泛函和伴随

第8.4节酉算子

第8.5节正规算子