Lecture 21: Eigenvalues and Eigenvectors
Lecture 21: Eigenvalues and Eigenvectors
概述
前 20 讲的核心问题一直是求解 $A\mathbf{x}=\mathbf{b}$:列空间、零空间、行列式、正交投影,全部围绕”输入 $\mathbf{b}$、输出 $\mathbf{x}$”展开。本讲换一个提问方式——固定矩阵 $A$,寻找那些在 $A$ 作用下方向不变的向量:
\[A\mathbf{x}=\lambda\mathbf{x},\qquad \mathbf{x}\neq\mathbf{0}.\]这样的 $\mathbf{x}$ 叫特征向量(eigenvector),伸缩倍数 $\lambda$ 叫特征值(eigenvalue)(德语 eigen = “自身的、固有的”)。求解的主线只有一条:$\det(A-\lambda I)=0$ 给出 $n$ 次特征多项式,先解出全部 $\lambda$,再对每个 $\lambda$ 解 $(A-\lambda I)\mathbf{x}=\mathbf{0}$。
本讲是 21–25 特征值板块的开篇,也是对角化 $A=S\Lambda S^{-1}$(讲次 22)的前提:只有先找出足够多的线性无关特征向量,才谈得上分解。
核心概念的几何直觉
特征向量与特征值(eigenvector / eigenvalue)
- 定义与目的:$A\mathbf{x}=\lambda\mathbf{x}$ 且 $\mathbf{x}\neq\mathbf{0}$。目的:把矩阵这个”复杂的拉伸+旋转”拆成若干条互不干扰的纯伸缩方向。一旦掌握这些方向,$A$ 反复作用($A^k$、微分方程、马尔可夫链)都退化成对 $\lambda$ 做乘方或取指数。
- 几何直觉(它在空间中是什么样子?):把 $A$ 想成一台对所有向量同时操作的机器。绝大多数向量的方向会被拧歪;但有那么几条特殊直线,机器只把它们沿自身方向拉长、压短或反向,一点不偏。$\lambda>1$ 拉长,$0<\lambda<1$ 压短,$\lambda<0$ 反向(同时伸缩 $\vert \lambda\vert $),$\lambda=0$ 表示该方向被彻底压扁到原点(此时 $A$ 必然奇异,$\det A=0$),$\lambda$ 为复数表示旋转型的作用(见下文旋转示例)。
- 具体示例:$A=\begin{bmatrix}2&1\\1&2\end{bmatrix}$ 作用在 $\mathbf{x}=(1,1)^{\mathsf T}$ 上:
方向完全没变,只是长度乘 3,所以 $\lambda=3$、$\mathbf{x}=(1,1)^{\mathsf T}$ 是一个特征对。再试 $(1,-1)^{\mathsf T}$:$A(1,-1)^{\mathsf T}=(1,-1)^{\mathsf T}$,于是 $\lambda=1$。而 $(1,0)^{\mathsf T}\mapsto(2,1)^{\mathsf T}$ 方向变了,它不是特征向量。
特征方程与特征多项式(characteristic equation / polynomial)
- 定义与目的:$\det(A-\lambda I)=0$ 称为特征方程;左端展开后是关于 $\lambda$ 的 $n$ 次多项式,称特征多项式。它把”向量方程”变成”标量方程”,让求 $\lambda$ 成为解方程问题。
- 几何直觉:当 $\lambda$ 恰好取到某个特征值时,矩阵 $A-\lambda I$ 把某条非零方向压成零——即 $A-\lambda I$ 奇异,其列向量线性相关,几何上整个空间被压到一个”更低的维数”里($\det$ 度量体积,体积为 0)。
- 具体示例:对上面的 $A$,$A-\lambda I=\begin{bmatrix}2-\lambda&1\\1&2-\lambda\end{bmatrix}$,$\det=(2-\lambda)^2-1=\lambda^2-4\lambda+3=(\lambda-3)(\lambda-1)$,根 $\lambda=3,1$。
特征空间(eigenspace)
- 定义与目的:固定 $\lambda$ 后,全部满足 $A\mathbf{x}=\lambda\mathbf{x}$ 的向量(含 $\mathbf{0}$)构成子空间 $\{\mathbf{x}: (A-\lambda I)\mathbf{x}=\mathbf{0}\}=N(A-\lambda I)$,称为该 $\lambda$ 的特征空间。
- 几何直觉:特征向量从来不是孤立的箭头,而是一条过原点的直线(或更高维的子空间)。$\lambda=1$ 的特征空间对应讲次 21 常说的”不动直线”。
- 具体示例:$A=\begin{bmatrix}3&1\\0&3\end{bmatrix}$ 时 $\lambda=3$ 的特征空间是 $N(A-3I)=N\begin{bmatrix}0&1\\0&0\end{bmatrix}=\mathrm{span}\{(1,0)^{\mathsf T}\}$,只有一维,尽管 $\lambda=3$ 是二重根。
迹与行列式的约束(trace / determinant)
- 定义与目的:对任意 $n\times n$ 矩阵,$\sum_i\lambda_i=\operatorname{tr}(A)$,$\prod_i\lambda_i=\det A$(复根按重数计)。这是最强的免费验算工具。
- 几何直觉:$\det$ 是体积缩放因子,而各特征方向独立缩放,总体积因子自然是各 $\lambda$ 之积;$\operatorname{tr}$ 则是特征多项式中 $(-\lambda)^{n-1}$ 项的系数。
- 具体示例:$A=\begin{bmatrix}2&1\\1&2\end{bmatrix}$:$\operatorname{tr}=4=3+1$,$\det=3=3\times1$,与上面的根完全吻合。
ASCII 图 1:单位圆 → 椭圆,两条不变方向
输入:单位圆 xᵀx = 1 输出:A·(单位圆),A = [[2,1],[1,2]]
y y
| |
· · · · · · · · · · · · · · · · · · · · ·
· | · · | ·
·-------+-------· x A ⟹ ·----------+----------· x
· | · · | ·
· · · · · · · · · · · · · · · · · · · · ·
(1,0) (2, 1)
(0,1) (1, 2)
(1,1)/√2 (3,3)/√2 ≈ (2.12, 2.12)
(1,−1)/√2 (1,−1)/√2 ≈ (0.71, −0.71)
图中两条用 + 标出的"不变直线"(特征方向):
方向 u₁ = (1,1)/√2 :长度 1 → 3 A u₁ = 3u₁ λ₁ = 3
方向 u₂ = (1,−1)/√2:长度 1 → 1 A u₂ = 1u₂ λ₂ = 1
其余方向既被拉长又被拧歪:例如 (1,0) → (2,1),不再平行于 x 轴。
圆变成椭圆,但椭圆的长短半轴方向恰是两条特征方向,长度就是 |λ|。
ASCII 图 2:剪切矩阵只有一个特征方向
A = [[1,1],[0,1]]:λ = 1 二重,但只有一个独立特征向量 (1,0)ᵀ
y y
| / | /
| / | /
| / 单位正方形 | / ← 竖直边被"推倒"
| / | /
+------ x +------ x
唯一不变方向:x 轴(λ = 1)
水平箭头 (1,0) → (1,0):不动。 竖直箭头 (0,1) → (1,1):方向变了!
没有第二条直线方向保持平行 ⟹ 特征向量只有一个线性无关者 ⟹ 缺陷矩阵。
ASCII 图 3:旋转 90°,没有实的不变方向
A = [[0,−1],[1,0]]:把平面逆时针转 90°
y y
| |
(−1,0)· (0,1)·
| |
------+------ x A ⟹ -------+------- x
| |
(0,−1)· (1,0)·
轨道:(1,0) → (0,1) → (−1,0) → (0,−1) → (1,0),每个非零向量都转 90°,
永远不可能与自己平行(除非是零向量)。特征方程 λ² + 1 = 0 给出 λ = ±i。
复数特征值不是"没有答案",而是"存在旋转分量"的精确编码。
计算步骤与手算演示
通用流程($n\times n$)
- 写出 $A-\lambda I$(只在对角线上减 $\lambda$)。
- 算 $\det(A-\lambda I)$,展开成 $\lambda$ 的 $n$ 次多项式并因式分解。
- 解 $\det(A-\lambda I)=0$ 得全部特征值(含重数与复数)。
- 对每个 $\lambda$ 解 $(A-\lambda I)\mathbf{x}=\mathbf{0}$:做消元,找主元与自由变量,写出零空间的一组基。
- 用 $\sum\lambda_i=\operatorname{tr}A$、$\prod\lambda_i=\det A$ 以及 $A\mathbf{x}=\lambda\mathbf{x}$ 回代验算。
2×2 的通用公式(背下来能省一半时间)
对 $A=\begin{bmatrix}a&b\\c&d\end{bmatrix}$:
\[\det(A-\lambda I)=(a-\lambda)(d-\lambda)-bc=\lambda^2-(a+d)\lambda+(ad-bc)=\lambda^2-(\operatorname{tr}A)\lambda+\det A.\]所以 2×2 的特征值必满足
\[\boxed{\ \lambda=\frac{\operatorname{tr}A\pm\sqrt{(\operatorname{tr}A)^2-4\det A}}{2}\ }\]判别式 $\Delta=(\operatorname{tr}A)^2-4\det A$ 直接决定类型:$\Delta>0$ 两个不同实根;$\Delta=0$ 二重实根(缺陷与否再看秩);$\Delta<0$ 一对共轭复根(含旋转)。由于 $\Delta=0$ 需要 $(\operatorname{tr}A)^2=4\det A$ 这一”恰好”条件,随机矩阵几乎总有两个不同特征值——重根本身就是稀有事件,这也解释了为什么缺陷矩阵在理论上棘手、在数值上却是”测度零”的。
2×2 的五个”秒算”模式(考试常客):
形状 特征值 特征向量 备注
---------------------------------------------------------------------
三角/对角 对角元 坐标轴方向 立即读出
对称 [[a,b],[b,d]] 两个实根 可选为互相正交 讲次 25
旋转 [[c,-s],[s,c]] c ± is (c=cosθ) (1,∓i) 复向量 无实不变方向
投影 P = aaᵗ/aᵗa 1 和 0 a 方向 → 1 另一方向 → 0
反射 (如 [[0,1],[1,0]]) 1 和 −1 镜像轴 → 1 法线 → −1
[[a,b],[0,a]] a 二重(缺陷) (1,0)ᵀ 仅一个 需 Jordan 形
反射示例 [[0,1],[1,0]] 验算:
λ=1:(A−I) = [[-1,1],[1,-1]] → x = (1,1)ᵀ 镜像轴 y = x
λ=−1:(A+I) = [[1,1],[1,1]] → x = (1,−1)ᵀ 法线方向被翻向
---------------------------------------------------------------------
示例 1:$A=\begin{bmatrix}2&1\\1&2\end{bmatrix}$(对称,两个实特征值)
步骤 1(构造 $A-\lambda I$):
\[A-\lambda I=\begin{bmatrix}2-\lambda&1\\1&2-\lambda\end{bmatrix}.\]步骤 2(算行列式并因式分解):
\[\det(A-\lambda I)=(2-\lambda)(2-\lambda)-1\cdot1=(2-\lambda)^2-1=\lambda^2-4\lambda+3=(\lambda-3)(\lambda-1).\]步骤 3(解根):$\lambda_1=3,\ \lambda_2=1$。
步骤 4a($\lambda_1=3$,解 $(A-3I)\mathbf{x}=\mathbf{0}$):
\[A-3I=\begin{bmatrix}-1&1\\1&-1\end{bmatrix}\xrightarrow{\ \text{消元}\ }\begin{bmatrix}-1&1\\0&0\end{bmatrix}\ \Longrightarrow\ -x_1+x_2=0\ \Longrightarrow\ x_1=x_2.\]$x_2$ 是自由变量,取 $x_2=1$ 得 $\mathbf{x}_1=\begin{bmatrix}1\\1\end{bmatrix}$。
步骤 4b($\lambda_2=1$,解 $(A-I)\mathbf{x}=\mathbf{0}$):
\[A-I=\begin{bmatrix}1&1\\1&1\end{bmatrix}\xrightarrow{\ \text{消元}\ }\begin{bmatrix}1&1\\0&0\end{bmatrix}\ \Longrightarrow\ x_1+x_2=0\ \Longrightarrow\ \mathbf{x}_2=\begin{bmatrix}1\\-1\end{bmatrix}.\]步骤 5(验算): $A\mathbf{x}_1=(3,3)^{\mathsf T}=3\mathbf{x}_1$ ✓;$A\mathbf{x}_2=(1,-1)^{\mathsf T}=1\cdot\mathbf{x}_2$ ✓; $\operatorname{tr}A=4=3+1$ ✓;$\det A=3=3\times1$ ✓。 两个特征向量 $\mathbf{x}_1,\mathbf{x}_2$ 线性无关(也不正交时才有意义——这里恰好正交,因为 $A$ 对称,讲次 25)。
【计算机制解说】:为什么特征方程是 $\det(A-\lambda I)=0$,而不是别的? 因为我们要的是非零解 $\mathbf{x}\neq\mathbf{0}$。方程 $(A-\lambda I)\mathbf{x}=\mathbf{0}$ 写成矩阵形式,问的是”零空间里有没有非零向量”。由讲次 6–8 的知识:
\[\exists\,\mathbf{x}\neq\mathbf{0},\ (A-\lambda I)\mathbf{x}=\mathbf{0}\ \Longleftrightarrow\ N(A-\lambda I)\neq\{\mathbf{0}\}\ \Longleftrightarrow\ A-\lambda I\ \text{奇异}\ \Longleftrightarrow\ \det(A-\lambda I)=0.\]最后一步用讲次 18 的判据:方阵奇异 $\Leftrightarrow$ 行列式为 0 $\Leftrightarrow$ 不可逆。若忘了”非零”这一条,就会错误地写成 $A\mathbf{x}=\lambda\mathbf{x}$ 对 $\mathbf{x}=\mathbf{0}$ 永远成立,从而得出”任何 $\lambda$ 都行”的荒谬结论。所以 $\det$ 在这里的角色是:筛出那些让 $A-\lambda I$ 掉秩的 $\lambda$。
示例 2:$A=\begin{bmatrix}3&1\\0&3\end{bmatrix}$(重根 + 缺陷矩阵,预告讲次 28)
步骤 1–2(三角矩阵的行列式立刻可读):
\[A-\lambda I=\begin{bmatrix}3-\lambda&1\\0&3-\lambda\end{bmatrix},\qquad \det(A-\lambda I)=(3-\lambda)^2.\](三角矩阵的行列式 = 对角元之积,这是讲次 18 的性质,也是”三角矩阵特征值即对角元”的原因。)
步骤 3:$\lambda=3$,代数重数(algebraic multiplicity)为 2。
步骤 4:解 $(A-3I)\mathbf{x}=\mathbf{0}$:
\[A-3I=\begin{bmatrix}0&1\\0&0\end{bmatrix}\ \Longrightarrow\ x_2=0,\ x_1\ \text{自由}\ \Longrightarrow\ \mathbf{x}=\begin{bmatrix}1\\0\end{bmatrix}.\]步骤 5(验算):$\operatorname{tr}A=6=3+3$ ✓;$\det A=9=3\times3$ ✓;但特征空间只有一维,几何重数(geometric multiplicity)$=1<2$。
结论:这样的矩阵叫缺陷矩阵(defective matrix),它无法对角化——因为只有 1 个线性无关的特征向量,凑不出 $S$ 的两列。讲次 22 会看到 $A=S\Lambda S^{-1}$ 失效,讲次 28 用 Jordan 形 $A=SJS^{-1}$ 补救。
【计算机制解说】:为什么重根时特征向量可能”不够多”? 关键在于 $\lambda$ 的重数是多项式层面的($(\lambda-3)^2$ 出现两次),而独立特征向量的个数是零空间维度层面的:$\dim N(A-\lambda I)=n-r$,其中 $r=\operatorname{rank}(A-\lambda I)$。本例 $\operatorname{rank}(A-3I)=1$,故 $\dim N=2-1=1$。一般有
\[1\le \dim N(A-\lambda I)\le \text{代数重数},\]$n$ 个特征值(按重数计)总能提供 $n$ 个独立特征向量当且仅当每个 $\lambda$ 的几何重数 $=$ 代数重数。缺陷矩阵正是后一种”零空间被挤小”的情形:$A-3I$ 只掉了一行秩,只挤出一条直线。
示例 3:$A=\begin{bmatrix}0&-1\\1&0\end{bmatrix}$(旋转 90°,复特征值)
步骤 1–2:
\[A-\lambda I=\begin{bmatrix}-\lambda&-1\\1&-\lambda\end{bmatrix},\qquad \det(A-\lambda I)=(-\lambda)(-\lambda)-(-1)(1)=\lambda^2+1.\]步骤 3:$\lambda^2+1=0\Longrightarrow \lambda_1=i,\ \lambda_2=-i$(一对共轭纯虚数)。
步骤 4(复特征向量,算出供体会):对 $\lambda=i$,
\[A-iI=\begin{bmatrix}-i&-1\\1&-i\end{bmatrix}\ \Longrightarrow\ -ix_1-x_2=0\ \Longrightarrow\ x_2=-ix_1\ \Longrightarrow\ \mathbf{x}=\begin{bmatrix}1\\-i\end{bmatrix}.\]验算:$A\begin{bmatrix}1\\-i\end{bmatrix}=\begin{bmatrix}0\cdot1+(-1)(-i)\\1\cdot1+0\end{bmatrix}=\begin{bmatrix}i\\1\end{bmatrix}=i\begin{bmatrix}1\\-i\end{bmatrix}$ ✓(注意 $i\cdot(-i)=1$)。
步骤 5(验算):$\operatorname{tr}A=0=i+(-i)$ ✓,即 $2a=2\cos 90^\circ=0$ ✓;$\det A=0\cdot0-(-1)(1)=1$,而 $\lambda_1\lambda_2=i\cdot(-i)=-i^2=1$ ✓,即 $a^2+b^2=0^2+1^2=1$ ✓。
一般旋转角 $\theta$:$A=\begin{bmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\end{bmatrix}$,
\[\det(A-\lambda I)=(\cos\theta-\lambda)^2+\sin^2\theta=\lambda^2-2\lambda\cos\theta+1=0 \ \Longrightarrow\ \lambda=\cos\theta\pm i\sin\theta=e^{\pm i\theta}.\]$\theta=90^\circ$ 时正是 $\pm i$;$\theta=0$ 时 $\lambda=1,1$(恒等矩阵,每个方向都不变);$\theta=180^\circ$ 时 $\lambda=-1,-1$($A=-I$,每个方向都反向)。
【计算机制解说】:复数特征值到底在说什么? 它说”这个线性变换里含有无法用实方向抵消的旋转成分“。一个实矩阵作用在实向量上,输出仍是实向量;但这并不意味着它必须有一条实的”不动直线”。旋转 $90^\circ$ 就是反例:任何非零向量转过去都不再平行于自己。代数上,奇数次实多项式必有实根,但偶数次可以没有——2×2 的情形可以只有一对复根。同时因为 $A$ 是实矩阵,特征多项式的系数全为实数,所以复根必然成共轭对 $\lambda,\bar\lambda$ 出现($\lambda=a+bi,\bar\lambda=a-bi$),和 $\vert \lambda\vert ^2=a^2+b^2=\det A$、$2a=\operatorname{tr}A$。本例 $a=0,b=1$:旋转矩阵的 $\det=1$(保面积)、$\operatorname{tr}=0$(无净伸缩),完全吻合。
示例 4(可选,3×3):上三角矩阵 $A=\begin{bmatrix}2&1&0\\0&3&1\\0&0&4\end{bmatrix}$
步骤 1–2:$A-\lambda I$ 仍是上三角,对角元 $2-\lambda,3-\lambda,4-\lambda$:
\[\det(A-\lambda I)=(2-\lambda)(3-\lambda)(4-\lambda)\ \Longrightarrow\ \lambda=2,3,4.\]步骤 4a($\lambda=2$):$A-2I=\begin{bmatrix}0&1&0\\0&1&1\\0&0&2\end{bmatrix}$。方程 $x_2=0$,$x_2+x_3=0\Rightarrow x_3=0$,$2x_3=0$;$x_1$ 自由 ⟹ $\mathbf{x}_1=(1,0,0)^{\mathsf T}$。
步骤 4b($\lambda=3$):$A-3I=\begin{bmatrix}-1&1&0\\0&0&1\\0&0&1\end{bmatrix}$。$-x_1+x_2=0\Rightarrow x_1=x_2$;$x_3=0$;$x_2$ 自由 ⟹ $\mathbf{x}_2=(1,1,0)^{\mathsf T}$。
步骤 4c($\lambda=4$):$A-4I=\begin{bmatrix}-2&1&0\\0&-1&1\\0&0&0\end{bmatrix}$。$-2x_1+x_2=0\Rightarrow x_2=2x_1$;$-x_2+x_3=0\Rightarrow x_3=2x_1$;取 $x_1=1$ ⟹ $\mathbf{x}_3=(1,2,2)^{\mathsf T}$。
步骤 5(验算):$A\mathbf{x}_3=(2+2,\ 6+2,\ 8)^{\mathsf T}=(4,8,8)^{\mathsf T}=4(1,2,2)^{\mathsf T}$ ✓; $\operatorname{tr}A=2+3+4=9$ ✓;$\det A=2\cdot3\cdot4=24$ ✓;三个特征向量线性无关(三角结构保证),故这个 3×3 示例可以对角化。
【计算机制解说】:为什么三角/对角矩阵的特征值就是对角元? 因为三角矩阵的行列式等于对角元之积:$\det(A-\lambda I)=\prod_i(a_{ii}-\lambda)$。根显然是 $\lambda=a_{ii}$。几何上,三角矩阵”分层作用”——沿第一个坐标方向没有来自其他分量的干扰,所以坐标轴方向天然是各层的不变方向。这也给出一条重要推论:$\det A=0\Longleftrightarrow A$ 至少有一个特征值为 0(讲次 18 的可逆性判据与特征值判据在此合流)。
四个示例的横向对比(一张表看清”够不够”)
矩阵 特征值 几何重数(每个λ) 独立特征向量总数 可对角化?
--------------------------------------------------------------------------
[[2,1],[1,2]] 3, 1 1, 1 2 = n ✓
[[3,1],[0,3]] 3, 3 1 (代数重数 2) 1 < n = 2 ✗ 缺陷
[[0,-1],[1,0]] i, −i 1, 1 2 (复向量) ✓ 但 S 复
[[2,1,0],[0,3,1],[0,0,4]] 2,3,4 1,1,1 3 = n ✓
[[2,0],[0,2]] 2, 2 2 (整个平面) 2 = n ✓
--------------------------------------------------------------------------
判据:独立特征向量总数 = Σ dim N(A−λᵢI) = n ⟺ 可对角化(讲次 22)
注意第三行:复特征值不阻碍对角化,只是 S 与 Λ 进入复数域。
相似矩阵共享特征值(为讲次 22、30 埋线)
若 $B=M^{-1}AM$($M$ 可逆),则 $A$、$B$ 有完全相同的特征值。推导只有两行:
\[A\mathbf{x}=\lambda\mathbf{x}\ \Longrightarrow\ M^{-1}AM\,(M^{-1}\mathbf{x})=\lambda(M^{-1}\mathbf{x})\ \Longrightarrow\ B\mathbf{y}=\lambda\mathbf{y},\quad \mathbf{y}=M^{-1}\mathbf{x}.\]特征向量被 $M^{-1}$ 搬运,但 $\lambda$ 原封不动。这解释了为什么 $\operatorname{tr}$ 与 $\det$ 在相似变换下不变(它们只是 $\lambda$ 的和与积),也解释了讲次 22 的对角化:$A$ 与 $\Lambda$ 相似,所以我们先把 $A$ 化成最简单的相似代表 $\Lambda$ 再做一切计算。
特征值与幂次、指数的接口(只列结论,细节留给讲次 22–23)
- 离散动力系统 $u_{k+1}=Au_k$:把 $u_0$ 按特征向量展开 $u_0=\sum c_i\mathbf{x}i$,则 $u_k=\sum c_i\lambda_i^k\mathbf{x}_i$。长期行为由最大 $\vert \lambda_i\vert $ 统治:$\vert \lambda{\max}\vert >1$ 爆炸、$<1$ 衰减到 $\mathbf{0}$、$=1$ 趋于稳态。这正是 Fibonacci 增长率 $\varphi\approx1.618$ 的来源(讲次 22)。
- 连续动力系统 $\dfrac{\mathrm{d}u}{\mathrm{d}t}=Au$:解为 $u(t)=\sum c_ie^{\lambda_i t}\mathbf{x}_i$,稳定性由 $\operatorname{Re}\lambda_i<0$ 决定。复特征值给出振荡(虚部 = 频率,实部 = 衰减率),这一讲里”看起来只是数学技巧”的复数在此变成物理必需(讲次 23)。
- 马尔可夫矩阵:每列和为 1 $\Longrightarrow$ $\lambda=1$ 必是特征值,其(非负)特征向量就是稳态分布(讲次 24)。
- 对称矩阵:$\lambda_i$ 全实、特征向量两两正交,可写成 $A=Q\Lambda Q^{\mathsf T}=\sum_i\lambda_i\mathbf{q}_i\mathbf{q}_i^{\mathsf T}$——一组”互相垂直的不变方向”,是本课程最干净的图像(讲次 25)。
【计算机制解说】:为什么”$\lambda$ 描述长期增长率”这件事值得反复强调? 因为矩阵幂 $A^k$ 在一般情况下极难计算($k$ 次矩阵乘法),但在特征向量基下它变成 $n$ 个标量的幂 $\lambda_i^k$——矩阵问题被拆成 $n$ 个独立的一维问题。这就是特征值方法的全部价值:找一个坐标系,让耦合的、互相干扰的变换解耦成互不相干的纯伸缩。一旦接受这个视角,$A=S\Lambda S^{-1}$(讲次 22)、$e^{At}=Se^{\Lambda t}S^{-1}$(讲次 23)、$A=Q\Lambda Q^{\mathsf T}$(讲次 25)全都是同一句话的三次重述。
示例 5(应用预告,讲次 22 详算):Fibonacci 矩阵 $F=\begin{bmatrix}1&1\\1&0\end{bmatrix}$
步骤 1–2:$\operatorname{tr}F=1$,$\det F=0-1=-1$,故
\[\det(F-\lambda I)=\lambda^2-\lambda-1=0\ \Longrightarrow\ \lambda=\frac{1\pm\sqrt{5}}{2}=1.618\ldots,\ -0.618\ldots\]步骤 3:正的根正是黄金比 $\varphi=\frac{1+\sqrt5}{2}$,负的根 $\psi=\frac{1-\sqrt5}{2}=-1/\varphi$。 步骤 5(验算):$\lambda_1\lambda_2=-1=\det F$ ✓;$\lambda_1+\lambda_2=1=\operatorname{tr}F$ ✓。 含义:Fibonacci 递推 $a_{k+1}=a_k+a_{k-1}$ 写成 $u_{k+1}=Fu_k$,故 $a_k\approx c\,\varphi^{\,k}$——增长率为 $\varphi$。因为 $\vert \psi\vert <1$,$k$ 大时 $\psi^k\to0$,这就是为什么 $a_{k+1}/a_k\to\varphi$。一个纯组合的递推,最终由特征值给出精确增长率。
矩阵分解的核心思想
本讲不直接引入新分解,它是分解链条上的一级台阶:
- $A=S\Lambda S^{-1}$(讲次 22 对角化)——本讲的全部工作是为它准备原料。$S$ 的每一列就是一个特征向量,$\Lambda$ 是对角线上排着对应特征值的对角阵。等价地 $AS=S\Lambda$:矩阵乘 $S$ 的每一列分别被自己的 $\lambda$ 伸缩。前提是本讲反复强调的那句话:必须有 $n$ 个线性无关的特征向量。示例 2 的缺陷矩阵正是在这里卡住。
- $A=Q\Lambda Q^{\mathsf T}$(讲次 25 谱定理)——当 $A$ 是对称矩阵时,特征向量可以选成两两正交的单位向量,$S$ 升级为正交矩阵 $Q$,$S^{-1}$ 变成 $Q^{\mathsf T}$。这是最漂亮的一类分解,示例 1 已经露出苗头($\mathbf{x}_1\perp\mathbf{x}_2$)。
- $A^k=S\Lambda^k S^{-1}$——分解的价值所在:幂次从矩阵乘法降为标量乘方,$u_{k+1}=Au_k$ 的解直接写成 $u_k=\sum c_i\lambda_i^k\mathbf{x}_i$。稳定性判据立刻变成 $\vert \lambda_i\vert <1$(讲次 22)。
- $A=U\Sigma V^{\mathsf T}$(讲次 29 SVD)——对不可对角化的矩阵也永远成立;$\sigma_i=\sqrt{\lambda_i(A^{\mathsf T}A)}$,SVD 的奇异值就是本讲概念”借壳”到任意矩阵上的版本。
分解的链条:本讲处在哪一环
A = LU ← 讲次 2 消元,解方程 Ax=b
A = QR ← 讲次 17 正交基,最小二乘
A = SΛS⁻¹ ← 讲次 22 【本讲提供原料】n 个线性无关特征向量
│ ├─ A 对称时升级为 A = QΛQᵀ (讲次 25)
│ └─ A 缺陷时降级为 A = SJS⁻¹ (讲次 28)
A = UΣVᵀ ← 讲次 29 任意矩阵都能做:σ = √λ(AᵀA)
关键依赖:本讲算不出"足够多的特征向量",整条特征值支线全部崩塌。
判别式只有一个:Σ dim N(A − λᵢI) 是否等于 n。
与其他讲次的关联
- 讲次 18–20(行列式):本讲把行列式当作求根工具使用——$\det(A-\lambda I)=0$;三角阵行列式 = 对角元之积,直接给出三角阵的特征值;$\det A=\prod\lambda_i$ 把可逆性判据与”0 是不是特征值”联系起来。
- 讲次 6–8(四个基本子空间):特征向量所在的特征空间就是零空间 $N(A-\lambda I)$,$\dim N(A-\lambda I)=n-\operatorname{rank}(A-\lambda I)$ 是判断”特征向量够不够”的唯一标尺。
- 讲次 22(对角化与 $A^k$):直接的下一讲。$A=S\Lambda S^{-1}$ 的可行性由本讲的重数比较决定;$A^k\to0\Leftrightarrow$ 所有 $\vert \lambda\vert <1$。
- 讲次 23(微分方程 $\mathrm{d}u/\mathrm{d}t=Au$):解为 $u(t)=\sum c_ie^{\lambda_i t}\mathbf{x}_i$,稳定性由 $\operatorname{Re}\lambda_i<0$ 决定(复特征值在此真正登场)。
- 讲次 24(马尔可夫矩阵):必有一个 $\lambda=1$,稳态向量就是它的特征向量。
- 讲次 25(对称矩阵与正定):实对称矩阵的 $\lambda$ 全为实数、特征向量可选为正交;正定 $\Leftrightarrow$ 所有 $\lambda_i>0$。
- 讲次 28(Jordan 形):示例 2 的缺陷矩阵在那里被彻底处理。
- 讲次 29(SVD):奇异值 $\sigma=\sqrt{\lambda(A^{\mathsf T}A)}$,是特征值概念对非方阵的推广。
关键要点
- 定义式:$A\mathbf{x}=\lambda\mathbf{x}$,$\mathbf{x}\neq\mathbf{0}$。求法三步走:$A-\lambda I$ → $\det(A-\lambda I)=0$ 解 $\lambda$ → 解 $(A-\lambda I)\mathbf{x}=\mathbf{0}$ 得特征向量。
- 两条免费验算公式:$\sum_i\lambda_i=\operatorname{tr}(A)$,$\prod_i\lambda_i=\det A$。任何算出的特征值都要先过这两关。
- 三角 / 对角矩阵的特征值就是对角元;特别地 $\det A=0\Longleftrightarrow \lambda=0$ 是特征值 $\Longleftrightarrow A$ 奇异。
- “$n$ 个特征值”与”$n$ 个独立特征向量”是两回事:前者按重数永远成立,后者要求每个 $\lambda$ 的几何重数 = 代数重数;否则矩阵缺陷、不可对角化。
- 实矩阵允许复特征值,且成共轭对出现($\lambda=a\pm bi$,则 $2a=\operatorname{tr}A$、$a^2+b^2=\det A$);对称矩阵是唯一”保证全实”的重要类别。
常见误区与注意事项
- 以为特征向量唯一。 特征向量从不唯一:$\mathbf{x}$ 可以乘任意非零常数,$2\mathbf{x}$、$-\mathbf{x}$、$\frac{1}{3}\mathbf{x}$ 都是同一特征向量。答案应该写成”特征空间的一组基”或”$\mathrm{span}\{\cdot\}$”的形式,而不是一个孤立箭头。此外不要漏掉 $\lambda=0$ 时特征空间也可能不止一维。
- 以为重根一定不可对角化。 反例:$A=\begin{bmatrix}2&0\\0&2\end{bmatrix}$,$\det(A-\lambda I)=(2-\lambda)^2$ 二重根,但 $A-2I=0$ 的零空间是整个 $\mathbb{R}^2$,几何重数 $=2=$ 代数重数,可以对角化(实际上它本身就是 $\Lambda=2I$)。重根只是”可能”缺陷,判据永远是 $\dim N(A-\lambda I)$ 而不是重数。同理,$A=\begin{bmatrix}2&0\\0&3\end{bmatrix}$ 有两个不同特征值但只有两族特征向量,也不比对称矩阵特殊。
- 忘记复特征值是合法答案。 遇到 $\lambda^2+1=0$ 就写”无特征值”是错的;正确答案是 $\lambda=\pm i$,它精确描述了旋转。只有实对称矩阵才保证不出现复特征值。
- $\det(A-\lambda I)$ 与 $\det(\lambda I-A)$ 的符号混淆。 两者相差因子 $(-1)^n$:$\det(\lambda I-A)=(-1)^n\det(A-\lambda I)$,多项式不同但根完全相同,不会影响特征值。不过用 $\det(A-\lambda I)$ 时 $\lambda^2$ 项系数为 $+1$,与 $\lambda^2-\operatorname{tr}\lambda+\det$ 的形式一致,更不容易出错;写特征向量方程时也必须与所选的 $\lambda I-A$ 或 $A-\lambda I$ 保持一致的方向。
- 把特征值的”加法”当成线性。 $A+B$ 的特征值一般不等于 $A$、$B$ 特征值之和;$2A$ 的特征值才是 $2\lambda$,$A+2I$ 的特征值才是 $\lambda+2$(同特征向量)。只有相似矩阵($B=M^{-1}AM$)才共享同一组特征值——这提醒我们特征值属于线性变换自身,与所选基无关(讲次 30–33)。
- 算完 $\lambda$ 就停手。 本讲的产出是特征对,$(A-\lambda I)\mathbf{x}=\mathbf{0}$ 的零空间必须显式求出;只列特征值而不写特征向量,讲次 22 的 $S$ 就无从下手。
- 把”特征值都是实数”当成普遍事实。 只有对称矩阵(更一般地,实正规矩阵)有实特征值保证;一般实矩阵完全可以只有复特征值(旋转)。同样易错的是把 $A^k$ 中的 $\lambda^k$ 写成”取绝对值”——$(-0.9)^k$ 会正负交替地趋于 0,$(-1.1)^k$ 会正负交替地爆炸,符号本身携带振荡信息。
思考题(带答案)
Q1. 求 $A=\begin{bmatrix}4&1\\2&3\end{bmatrix}$ 的全部特征值与一组特征向量,并用迹与行列式验算。
答案
**特征多项式**: $$\det(A-\lambda I)=(4-\lambda)(3-\lambda)-1\cdot2=\lambda^2-7\lambda+(12-2)=\lambda^2-7\lambda+10=(\lambda-5)(\lambda-2).$$ 故 $\\lambda_1=5,\\ \\lambda_2=2$。 **$\\lambda_1=5$**:$A-5I=\\begin{bmatrix}-1&1\\\\2&-2\\end{bmatrix}\\xrightarrow{\\text{消元}}\\begin{bmatrix}-1&1\\\\0&0\\end{bmatrix}$,$-x_1+x_2=0$,取 $\\mathbf{x}_1=(1,1)^{\\mathsf T}$。 验算:$A(1,1)^{\\mathsf T}=(4+1,\\ 2+3)^{\\mathsf T}=(5,5)^{\\mathsf T}=5(1,1)^{\\mathsf T}$ ✓ **$\\lambda_2=2$**:$A-2I=\\begin{bmatrix}2&1\\\\2&1\\end{bmatrix}\\xrightarrow{\\text{消元}}\\begin{bmatrix}2&1\\\\0&0\\end{bmatrix}$,$2x_1+x_2=0$,取 $\\mathbf{x}_2=(1,-2)^{\\mathsf T}$。 验算:$A(1,-2)^{\\mathsf T}=(4-2,\\ 2-6)^{\\mathsf T}=(2,-4)^{\\mathsf T}=2(1,-2)^{\\mathsf T}$ ✓ **免费验算**:$\\operatorname{tr}A=4+3=7=5+2$ ✓;$\\det A=12-2=10=5\\times2$ ✓。 **注意**:特征向量不唯一,$(2,2)^{\\mathsf T}$、$(-1,-1)^{\\mathsf T}$ 同样是 $\\lambda=5$ 的特征向量——答案应理解为 $\\mathrm{span}\\{(1,1)^{\\mathsf T}\\}$ 与 $\\mathrm{span}\\{(1,-2)^{\\mathsf T}\\}$。Q2.(概念题)(a) 用自己的话解释为什么特征方程是 $\det(A-\lambda I)=0$,而不是 $\det(A)=0$ 或别的条件。(b) $A=\begin{bmatrix}2&0\\0&2\end{bmatrix}$ 的特征值 2 是二重的,它能被对角化吗?与 $\begin{bmatrix}3&1\\0&3\end{bmatrix}$ 相比差别究竟在哪里?
答案
**(a)** 我们要解 $A\\mathbf{x}=\\lambda\\mathbf{x}$,移项得 $(A-\\lambda I)\\mathbf{x}=\\mathbf{0}$,并且要求 $\\mathbf{x}\\neq\\mathbf{0}$($\\mathbf{x}=\\mathbf{0}$ 对任何 $\\lambda$ 都成立,毫无信息)。由讲次 6–8、18 的判据链: $$\text{存在非零解}\iff N(A-\lambda I)\neq\{\mathbf{0}\}\iff A-\lambda I\ \text{奇异}\iff\det(A-\lambda I)=0.$$ $\\det A=0$ 是另一个问题("$A$ 是否可逆"、"0 是不是特征值"),它只对应 $\\lambda=0$ 这一个特例,不可能筛出全部 $\\lambda$。 **(b)** 两者代数重数都是 2,但几何重数不同: - $A_1=\\begin{bmatrix}2&0\\\\0&2\\end{bmatrix}$:$A_1-2I=\\begin{bmatrix}0&0\\\\0&0\\end{bmatrix}$,$\\operatorname{rank}=0$,$\\dim N=2-0=2=$ 代数重数,**可以**对角化,且 $S$ 可取任意可逆矩阵($A_1$ 已经是 $2I=\\Lambda$ 本身)。 - $A_2=\\begin{bmatrix}3&1\\\\0&3\\end{bmatrix}$:$A_2-3I=\\begin{bmatrix}0&1\\\\0&0\\end{bmatrix}$,$\\operatorname{rank}=1$,$\\dim N=2-1=1<2$,**不可**对角化,是缺陷矩阵。 差别不在重数,而在 **$A-\\lambda I$ 掉了多少秩**:掉 0 秩给足特征方向,掉 1 秩就少一个方向。判据永远是 $\\dim N(A-\\lambda I)=n-\\operatorname{rank}(A-\\lambda I)$。缺陷情形要到讲次 28 的 Jordan 形才被完整刻画。Q3. 已知某 $3\times3$ 矩阵 $A$ 的三个特征值为 $\lambda=1,2,3$,且对应特征向量 $\mathbf{x}_1,\mathbf{x}_2,\mathbf{x}_3$ 线性无关。求: (a) $\operatorname{tr}(A)$ 与 $\det(A)$; (b) $A^{-1}$ 的特征值与特征向量; (c) $A+2I$ 的特征值与特征向量; (d) $A^{k}$ 的特征值与特征向量; (e) $A$ 可逆吗?$A\mathbf{x}=\mathbf{b}$ 对每个 $\mathbf{b}$ 是否唯一可解?
