Lecture 21: Eigenvalues and Eigenvectors

目录 · ← l19 · l21 →

Lecture 21: Eigenvalues and Eigenvectors

概述

前 20 讲的核心问题一直是求解 $A\mathbf{x}=\mathbf{b}$:列空间、零空间、行列式、正交投影,全部围绕”输入 $\mathbf{b}$、输出 $\mathbf{x}$”展开。本讲换一个提问方式——固定矩阵 $A$,寻找那些在 $A$ 作用下方向不变的向量

\[A\mathbf{x}=\lambda\mathbf{x},\qquad \mathbf{x}\neq\mathbf{0}.\]

这样的 $\mathbf{x}$ 叫特征向量(eigenvector),伸缩倍数 $\lambda$ 叫特征值(eigenvalue)(德语 eigen = “自身的、固有的”)。求解的主线只有一条:$\det(A-\lambda I)=0$ 给出 $n$ 次特征多项式,先解出全部 $\lambda$,再对每个 $\lambda$ 解 $(A-\lambda I)\mathbf{x}=\mathbf{0}$。

本讲是 21–25 特征值板块的开篇,也是对角化 $A=S\Lambda S^{-1}$(讲次 22)的前提:只有先找出足够多的线性无关特征向量,才谈得上分解。

核心概念的几何直觉

特征向量与特征值(eigenvector / eigenvalue)

  • 定义与目的:$A\mathbf{x}=\lambda\mathbf{x}$ 且 $\mathbf{x}\neq\mathbf{0}$。目的:把矩阵这个”复杂的拉伸+旋转”拆成若干条互不干扰的纯伸缩方向。一旦掌握这些方向,$A$ 反复作用($A^k$、微分方程、马尔可夫链)都退化成对 $\lambda$ 做乘方或取指数。
  • 几何直觉(它在空间中是什么样子?):把 $A$ 想成一台对所有向量同时操作的机器。绝大多数向量的方向会被拧歪;但有那么几条特殊直线,机器只把它们沿自身方向拉长、压短或反向,一点不偏。$\lambda>1$ 拉长,$0<\lambda<1$ 压短,$\lambda<0$ 反向(同时伸缩 $\vert \lambda\vert $),$\lambda=0$ 表示该方向被彻底压扁到原点(此时 $A$ 必然奇异,$\det A=0$),$\lambda$ 为复数表示旋转型的作用(见下文旋转示例)。
  • 具体示例:$A=\begin{bmatrix}2&1\\1&2\end{bmatrix}$ 作用在 $\mathbf{x}=(1,1)^{\mathsf T}$ 上:
\[A\begin{bmatrix}1\\1\end{bmatrix}=\begin{bmatrix}2+1\\1+2\end{bmatrix}=\begin{bmatrix}3\\3\end{bmatrix}=3\begin{bmatrix}1\\1\end{bmatrix}.\]

方向完全没变,只是长度乘 3,所以 $\lambda=3$、$\mathbf{x}=(1,1)^{\mathsf T}$ 是一个特征对。再试 $(1,-1)^{\mathsf T}$:$A(1,-1)^{\mathsf T}=(1,-1)^{\mathsf T}$,于是 $\lambda=1$。而 $(1,0)^{\mathsf T}\mapsto(2,1)^{\mathsf T}$ 方向变了,它不是特征向量。

特征方程与特征多项式(characteristic equation / polynomial)

  • 定义与目的:$\det(A-\lambda I)=0$ 称为特征方程;左端展开后是关于 $\lambda$ 的 $n$ 次多项式,称特征多项式。它把”向量方程”变成”标量方程”,让求 $\lambda$ 成为解方程问题。
  • 几何直觉:当 $\lambda$ 恰好取到某个特征值时,矩阵 $A-\lambda I$ 把某条非零方向压成零——即 $A-\lambda I$ 奇异,其列向量线性相关,几何上整个空间被压到一个”更低的维数”里($\det$ 度量体积,体积为 0)。
  • 具体示例:对上面的 $A$,$A-\lambda I=\begin{bmatrix}2-\lambda&1\\1&2-\lambda\end{bmatrix}$,$\det=(2-\lambda)^2-1=\lambda^2-4\lambda+3=(\lambda-3)(\lambda-1)$,根 $\lambda=3,1$。

特征空间(eigenspace)

  • 定义与目的:固定 $\lambda$ 后,全部满足 $A\mathbf{x}=\lambda\mathbf{x}$ 的向量(含 $\mathbf{0}$)构成子空间 $\{\mathbf{x}: (A-\lambda I)\mathbf{x}=\mathbf{0}\}=N(A-\lambda I)$,称为该 $\lambda$ 的特征空间
  • 几何直觉:特征向量从来不是孤立的箭头,而是一条过原点的直线(或更高维的子空间)。$\lambda=1$ 的特征空间对应讲次 21 常说的”不动直线”。
  • 具体示例:$A=\begin{bmatrix}3&1\\0&3\end{bmatrix}$ 时 $\lambda=3$ 的特征空间是 $N(A-3I)=N\begin{bmatrix}0&1\\0&0\end{bmatrix}=\mathrm{span}\{(1,0)^{\mathsf T}\}$,只有一维,尽管 $\lambda=3$ 是二重根。

迹与行列式的约束(trace / determinant)

  • 定义与目的:对任意 $n\times n$ 矩阵,$\sum_i\lambda_i=\operatorname{tr}(A)$,$\prod_i\lambda_i=\det A$(复根按重数计)。这是最强的免费验算工具。
  • 几何直觉:$\det$ 是体积缩放因子,而各特征方向独立缩放,总体积因子自然是各 $\lambda$ 之积;$\operatorname{tr}$ 则是特征多项式中 $(-\lambda)^{n-1}$ 项的系数。
  • 具体示例:$A=\begin{bmatrix}2&1\\1&2\end{bmatrix}$:$\operatorname{tr}=4=3+1$,$\det=3=3\times1$,与上面的根完全吻合。

ASCII 图 1:单位圆 → 椭圆,两条不变方向

        输入:单位圆 xᵀx = 1                输出:A·(单位圆),A = [[2,1],[1,2]]
                 y                                      y
                 |                                      |
        · · · · · · · · ·                    · · · · · · · · · · · ·
        ·       |       ·                    ·          |          ·
        ·-------+-------· x      A ⟹         ·----------+----------· x
        ·       |       ·                    ·          |          ·
        · · · · · · · · ·                    · · · · · · · · · · · ·
              (1,0)                              (2, 1)
             (0,1)                               (1, 2)
        (1,1)/√2                                 (3,3)/√2 ≈ (2.12, 2.12)
       (1,−1)/√2                                 (1,−1)/√2 ≈ (0.71, −0.71)

   图中两条用 + 标出的"不变直线"(特征方向):
       方向 u₁ = (1,1)/√2 :长度 1 → 3      A u₁ = 3u₁    λ₁ = 3
       方向 u₂ = (1,−1)/√2:长度 1 → 1      A u₂ = 1u₂    λ₂ = 1
   其余方向既被拉长又被拧歪:例如 (1,0) → (2,1),不再平行于 x 轴。
   圆变成椭圆,但椭圆的长短半轴方向恰是两条特征方向,长度就是 |λ|。

ASCII 图 2:剪切矩阵只有一个特征方向

   A = [[1,1],[0,1]]:λ = 1 二重,但只有一个独立特征向量 (1,0)ᵀ

        y                        y
        |    /                   |       /
        |   /                    |      /
        |  /     单位正方形      |     /     ← 竖直边被"推倒"
        | /                      |    /
        +------ x                +------ x
                                  唯一不变方向:x 轴(λ = 1)

   水平箭头 (1,0) → (1,0):不动。        竖直箭头 (0,1) → (1,1):方向变了!
   没有第二条直线方向保持平行 ⟹ 特征向量只有一个线性无关者 ⟹ 缺陷矩阵。

ASCII 图 3:旋转 90°,没有实的不变方向

   A = [[0,−1],[1,0]]:把平面逆时针转 90°

        y                          y
        |                          |
   (−1,0)·                     (0,1)·
        |                          |
  ------+------ x   A ⟹    -------+------- x
        |                          |
    (0,−1)·                     (1,0)·

   轨道:(1,0) → (0,1) → (−1,0) → (0,−1) → (1,0),每个非零向量都转 90°,
   永远不可能与自己平行(除非是零向量)。特征方程 λ² + 1 = 0 给出 λ = ±i。
   复数特征值不是"没有答案",而是"存在旋转分量"的精确编码。

计算步骤与手算演示

通用流程($n\times n$)

  1. 写出 $A-\lambda I$(只在对角线上减 $\lambda$)。
  2. 算 $\det(A-\lambda I)$,展开成 $\lambda$ 的 $n$ 次多项式并因式分解。
  3. 解 $\det(A-\lambda I)=0$ 得全部特征值(含重数与复数)。
  4. 每个 $\lambda$ 解 $(A-\lambda I)\mathbf{x}=\mathbf{0}$:做消元,找主元与自由变量,写出零空间的一组基。
  5. 用 $\sum\lambda_i=\operatorname{tr}A$、$\prod\lambda_i=\det A$ 以及 $A\mathbf{x}=\lambda\mathbf{x}$ 回代验算。

2×2 的通用公式(背下来能省一半时间)

对 $A=\begin{bmatrix}a&b\\c&d\end{bmatrix}$:

\[\det(A-\lambda I)=(a-\lambda)(d-\lambda)-bc=\lambda^2-(a+d)\lambda+(ad-bc)=\lambda^2-(\operatorname{tr}A)\lambda+\det A.\]

所以 2×2 的特征值必满足

\[\boxed{\ \lambda=\frac{\operatorname{tr}A\pm\sqrt{(\operatorname{tr}A)^2-4\det A}}{2}\ }\]

判别式 $\Delta=(\operatorname{tr}A)^2-4\det A$ 直接决定类型:$\Delta>0$ 两个不同实根;$\Delta=0$ 二重实根(缺陷与否再看秩);$\Delta<0$ 一对共轭复根(含旋转)。由于 $\Delta=0$ 需要 $(\operatorname{tr}A)^2=4\det A$ 这一”恰好”条件,随机矩阵几乎总有两个不同特征值——重根本身就是稀有事件,这也解释了为什么缺陷矩阵在理论上棘手、在数值上却是”测度零”的。

2×2 的五个”秒算”模式(考试常客):

  形状                特征值            特征向量              备注
  ---------------------------------------------------------------------
  三角/对角          对角元             坐标轴方向            立即读出
  对称 [[a,b],[b,d]] 两个实根           可选为互相正交        讲次 25
  旋转 [[c,-s],[s,c]] c ± is (c=cosθ)   (1,∓i) 复向量         无实不变方向
  投影 P = aaᵗ/aᵗa   1 和 0             a 方向 → 1            另一方向 → 0
  反射 (如 [[0,1],[1,0]]) 1 和 −1       镜像轴 → 1            法线 → −1
  [[a,b],[0,a]]      a 二重(缺陷)       (1,0)ᵀ 仅一个         需 Jordan 形

  反射示例 [[0,1],[1,0]] 验算:
      λ=1:(A−I) = [[-1,1],[1,-1]] → x = (1,1)ᵀ  镜像轴 y = x
      λ=−1:(A+I) = [[1,1],[1,1]]  → x = (1,−1)ᵀ 法线方向被翻向
  ---------------------------------------------------------------------

示例 1:$A=\begin{bmatrix}2&1\\1&2\end{bmatrix}$(对称,两个实特征值)

步骤 1(构造 $A-\lambda I$):

\[A-\lambda I=\begin{bmatrix}2-\lambda&1\\1&2-\lambda\end{bmatrix}.\]

步骤 2(算行列式并因式分解):

\[\det(A-\lambda I)=(2-\lambda)(2-\lambda)-1\cdot1=(2-\lambda)^2-1=\lambda^2-4\lambda+3=(\lambda-3)(\lambda-1).\]

步骤 3(解根):$\lambda_1=3,\ \lambda_2=1$。

步骤 4a($\lambda_1=3$,解 $(A-3I)\mathbf{x}=\mathbf{0}$):

\[A-3I=\begin{bmatrix}-1&1\\1&-1\end{bmatrix}\xrightarrow{\ \text{消元}\ }\begin{bmatrix}-1&1\\0&0\end{bmatrix}\ \Longrightarrow\ -x_1+x_2=0\ \Longrightarrow\ x_1=x_2.\]

$x_2$ 是自由变量,取 $x_2=1$ 得 $\mathbf{x}_1=\begin{bmatrix}1\\1\end{bmatrix}$。

步骤 4b($\lambda_2=1$,解 $(A-I)\mathbf{x}=\mathbf{0}$):

\[A-I=\begin{bmatrix}1&1\\1&1\end{bmatrix}\xrightarrow{\ \text{消元}\ }\begin{bmatrix}1&1\\0&0\end{bmatrix}\ \Longrightarrow\ x_1+x_2=0\ \Longrightarrow\ \mathbf{x}_2=\begin{bmatrix}1\\-1\end{bmatrix}.\]

步骤 5(验算): $A\mathbf{x}_1=(3,3)^{\mathsf T}=3\mathbf{x}_1$ ✓;$A\mathbf{x}_2=(1,-1)^{\mathsf T}=1\cdot\mathbf{x}_2$ ✓; $\operatorname{tr}A=4=3+1$ ✓;$\det A=3=3\times1$ ✓。 两个特征向量 $\mathbf{x}_1,\mathbf{x}_2$ 线性无关(也不正交时才有意义——这里恰好正交,因为 $A$ 对称,讲次 25)。

【计算机制解说】:为什么特征方程是 $\det(A-\lambda I)=0$,而不是别的? 因为我们要的是非零解 $\mathbf{x}\neq\mathbf{0}$。方程 $(A-\lambda I)\mathbf{x}=\mathbf{0}$ 写成矩阵形式,问的是”零空间里有没有非零向量”。由讲次 6–8 的知识:

\[\exists\,\mathbf{x}\neq\mathbf{0},\ (A-\lambda I)\mathbf{x}=\mathbf{0}\ \Longleftrightarrow\ N(A-\lambda I)\neq\{\mathbf{0}\}\ \Longleftrightarrow\ A-\lambda I\ \text{奇异}\ \Longleftrightarrow\ \det(A-\lambda I)=0.\]

最后一步用讲次 18 的判据:方阵奇异 $\Leftrightarrow$ 行列式为 0 $\Leftrightarrow$ 不可逆。若忘了”非零”这一条,就会错误地写成 $A\mathbf{x}=\lambda\mathbf{x}$ 对 $\mathbf{x}=\mathbf{0}$ 永远成立,从而得出”任何 $\lambda$ 都行”的荒谬结论。所以 $\det$ 在这里的角色是:筛出那些让 $A-\lambda I$ 掉秩的 $\lambda$

示例 2:$A=\begin{bmatrix}3&1\\0&3\end{bmatrix}$(重根 + 缺陷矩阵,预告讲次 28)

步骤 1–2(三角矩阵的行列式立刻可读):

\[A-\lambda I=\begin{bmatrix}3-\lambda&1\\0&3-\lambda\end{bmatrix},\qquad \det(A-\lambda I)=(3-\lambda)^2.\]

(三角矩阵的行列式 = 对角元之积,这是讲次 18 的性质,也是”三角矩阵特征值即对角元”的原因。)

步骤 3:$\lambda=3$,代数重数(algebraic multiplicity)为 2。

步骤 4:解 $(A-3I)\mathbf{x}=\mathbf{0}$:

\[A-3I=\begin{bmatrix}0&1\\0&0\end{bmatrix}\ \Longrightarrow\ x_2=0,\ x_1\ \text{自由}\ \Longrightarrow\ \mathbf{x}=\begin{bmatrix}1\\0\end{bmatrix}.\]

步骤 5(验算):$\operatorname{tr}A=6=3+3$ ✓;$\det A=9=3\times3$ ✓;但特征空间只有一维,几何重数(geometric multiplicity)$=1<2$。

结论:这样的矩阵叫缺陷矩阵(defective matrix),它无法对角化——因为只有 1 个线性无关的特征向量,凑不出 $S$ 的两列。讲次 22 会看到 $A=S\Lambda S^{-1}$ 失效,讲次 28 用 Jordan 形 $A=SJS^{-1}$ 补救。

【计算机制解说】:为什么重根时特征向量可能”不够多”? 关键在于 $\lambda$ 的重数是多项式层面的($(\lambda-3)^2$ 出现两次),而独立特征向量的个数是零空间维度层面的:$\dim N(A-\lambda I)=n-r$,其中 $r=\operatorname{rank}(A-\lambda I)$。本例 $\operatorname{rank}(A-3I)=1$,故 $\dim N=2-1=1$。一般有

\[1\le \dim N(A-\lambda I)\le \text{代数重数},\]

$n$ 个特征值(按重数计)总能提供 $n$ 个独立特征向量当且仅当每个 $\lambda$ 的几何重数 $=$ 代数重数。缺陷矩阵正是后一种”零空间被挤小”的情形:$A-3I$ 只掉了一行秩,只挤出一条直线。

示例 3:$A=\begin{bmatrix}0&-1\\1&0\end{bmatrix}$(旋转 90°,复特征值)

步骤 1–2

\[A-\lambda I=\begin{bmatrix}-\lambda&-1\\1&-\lambda\end{bmatrix},\qquad \det(A-\lambda I)=(-\lambda)(-\lambda)-(-1)(1)=\lambda^2+1.\]

步骤 3:$\lambda^2+1=0\Longrightarrow \lambda_1=i,\ \lambda_2=-i$(一对共轭纯虚数)。

步骤 4(复特征向量,算出供体会):对 $\lambda=i$,

\[A-iI=\begin{bmatrix}-i&-1\\1&-i\end{bmatrix}\ \Longrightarrow\ -ix_1-x_2=0\ \Longrightarrow\ x_2=-ix_1\ \Longrightarrow\ \mathbf{x}=\begin{bmatrix}1\\-i\end{bmatrix}.\]

验算:$A\begin{bmatrix}1\\-i\end{bmatrix}=\begin{bmatrix}0\cdot1+(-1)(-i)\\1\cdot1+0\end{bmatrix}=\begin{bmatrix}i\\1\end{bmatrix}=i\begin{bmatrix}1\\-i\end{bmatrix}$ ✓(注意 $i\cdot(-i)=1$)。

步骤 5(验算):$\operatorname{tr}A=0=i+(-i)$ ✓,即 $2a=2\cos 90^\circ=0$ ✓;$\det A=0\cdot0-(-1)(1)=1$,而 $\lambda_1\lambda_2=i\cdot(-i)=-i^2=1$ ✓,即 $a^2+b^2=0^2+1^2=1$ ✓。

一般旋转角 $\theta$:$A=\begin{bmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\end{bmatrix}$,

\[\det(A-\lambda I)=(\cos\theta-\lambda)^2+\sin^2\theta=\lambda^2-2\lambda\cos\theta+1=0 \ \Longrightarrow\ \lambda=\cos\theta\pm i\sin\theta=e^{\pm i\theta}.\]

$\theta=90^\circ$ 时正是 $\pm i$;$\theta=0$ 时 $\lambda=1,1$(恒等矩阵,每个方向都不变);$\theta=180^\circ$ 时 $\lambda=-1,-1$($A=-I$,每个方向都反向)。

【计算机制解说】:复数特征值到底在说什么? 它说”这个线性变换里含有无法用实方向抵消的旋转成分“。一个实矩阵作用在实向量上,输出仍是实向量;但这并不意味着它必须有一条实的”不动直线”。旋转 $90^\circ$ 就是反例:任何非零向量转过去都不再平行于自己。代数上,奇数次实多项式必有实根,但偶数次可以没有——2×2 的情形可以只有一对复根。同时因为 $A$ 是实矩阵,特征多项式的系数全为实数,所以复根必然成共轭对 $\lambda,\bar\lambda$ 出现($\lambda=a+bi,\bar\lambda=a-bi$),和 $\vert \lambda\vert ^2=a^2+b^2=\det A$、$2a=\operatorname{tr}A$。本例 $a=0,b=1$:旋转矩阵的 $\det=1$(保面积)、$\operatorname{tr}=0$(无净伸缩),完全吻合。

示例 4(可选,3×3):上三角矩阵 $A=\begin{bmatrix}2&1&0\\0&3&1\\0&0&4\end{bmatrix}$

步骤 1–2:$A-\lambda I$ 仍是上三角,对角元 $2-\lambda,3-\lambda,4-\lambda$:

\[\det(A-\lambda I)=(2-\lambda)(3-\lambda)(4-\lambda)\ \Longrightarrow\ \lambda=2,3,4.\]

步骤 4a($\lambda=2$):$A-2I=\begin{bmatrix}0&1&0\\0&1&1\\0&0&2\end{bmatrix}$。方程 $x_2=0$,$x_2+x_3=0\Rightarrow x_3=0$,$2x_3=0$;$x_1$ 自由 ⟹ $\mathbf{x}_1=(1,0,0)^{\mathsf T}$。

步骤 4b($\lambda=3$):$A-3I=\begin{bmatrix}-1&1&0\\0&0&1\\0&0&1\end{bmatrix}$。$-x_1+x_2=0\Rightarrow x_1=x_2$;$x_3=0$;$x_2$ 自由 ⟹ $\mathbf{x}_2=(1,1,0)^{\mathsf T}$。

步骤 4c($\lambda=4$):$A-4I=\begin{bmatrix}-2&1&0\\0&-1&1\\0&0&0\end{bmatrix}$。$-2x_1+x_2=0\Rightarrow x_2=2x_1$;$-x_2+x_3=0\Rightarrow x_3=2x_1$;取 $x_1=1$ ⟹ $\mathbf{x}_3=(1,2,2)^{\mathsf T}$。

步骤 5(验算):$A\mathbf{x}_3=(2+2,\ 6+2,\ 8)^{\mathsf T}=(4,8,8)^{\mathsf T}=4(1,2,2)^{\mathsf T}$ ✓; $\operatorname{tr}A=2+3+4=9$ ✓;$\det A=2\cdot3\cdot4=24$ ✓;三个特征向量线性无关(三角结构保证),故这个 3×3 示例可以对角化。

【计算机制解说】:为什么三角/对角矩阵的特征值就是对角元? 因为三角矩阵的行列式等于对角元之积:$\det(A-\lambda I)=\prod_i(a_{ii}-\lambda)$。根显然是 $\lambda=a_{ii}$。几何上,三角矩阵”分层作用”——沿第一个坐标方向没有来自其他分量的干扰,所以坐标轴方向天然是各层的不变方向。这也给出一条重要推论:$\det A=0\Longleftrightarrow A$ 至少有一个特征值为 0(讲次 18 的可逆性判据与特征值判据在此合流)。

四个示例的横向对比(一张表看清”够不够”)

  矩阵                  特征值        几何重数(每个λ)  独立特征向量总数  可对角化?
  --------------------------------------------------------------------------
  [[2,1],[1,2]]         3, 1          1, 1              2 = n             ✓
  [[3,1],[0,3]]         3, 3          1 (代数重数 2)     1 < n = 2         ✗ 缺陷
  [[0,-1],[1,0]]        i, −i         1, 1              2 (复向量)        ✓ 但 S 复
  [[2,1,0],[0,3,1],[0,0,4]] 2,3,4     1,1,1             3 = n             ✓
  [[2,0],[0,2]]         2, 2          2 (整个平面)       2 = n             ✓
  --------------------------------------------------------------------------
  判据:独立特征向量总数 = Σ dim N(A−λᵢI) = n  ⟺  可对角化(讲次 22)
  注意第三行:复特征值不阻碍对角化,只是 S 与 Λ 进入复数域。

相似矩阵共享特征值(为讲次 22、30 埋线)

若 $B=M^{-1}AM$($M$ 可逆),则 $A$、$B$ 有完全相同的特征值。推导只有两行:

\[A\mathbf{x}=\lambda\mathbf{x}\ \Longrightarrow\ M^{-1}AM\,(M^{-1}\mathbf{x})=\lambda(M^{-1}\mathbf{x})\ \Longrightarrow\ B\mathbf{y}=\lambda\mathbf{y},\quad \mathbf{y}=M^{-1}\mathbf{x}.\]

特征向量被 $M^{-1}$ 搬运,但 $\lambda$ 原封不动。这解释了为什么 $\operatorname{tr}$ 与 $\det$ 在相似变换下不变(它们只是 $\lambda$ 的和与积),也解释了讲次 22 的对角化:$A$ 与 $\Lambda$ 相似,所以我们先把 $A$ 化成最简单的相似代表 $\Lambda$ 再做一切计算。

特征值与幂次、指数的接口(只列结论,细节留给讲次 22–23)

  • 离散动力系统 $u_{k+1}=Au_k$:把 $u_0$ 按特征向量展开 $u_0=\sum c_i\mathbf{x}i$,则 $u_k=\sum c_i\lambda_i^k\mathbf{x}_i$。长期行为由最大 $\vert \lambda_i\vert $ 统治:$\vert \lambda{\max}\vert >1$ 爆炸、$<1$ 衰减到 $\mathbf{0}$、$=1$ 趋于稳态。这正是 Fibonacci 增长率 $\varphi\approx1.618$ 的来源(讲次 22)。
  • 连续动力系统 $\dfrac{\mathrm{d}u}{\mathrm{d}t}=Au$:解为 $u(t)=\sum c_ie^{\lambda_i t}\mathbf{x}_i$,稳定性由 $\operatorname{Re}\lambda_i<0$ 决定。复特征值给出振荡(虚部 = 频率,实部 = 衰减率),这一讲里”看起来只是数学技巧”的复数在此变成物理必需(讲次 23)。
  • 马尔可夫矩阵:每列和为 1 $\Longrightarrow$ $\lambda=1$ 必是特征值,其(非负)特征向量就是稳态分布(讲次 24)。
  • 对称矩阵:$\lambda_i$ 全实、特征向量两两正交,可写成 $A=Q\Lambda Q^{\mathsf T}=\sum_i\lambda_i\mathbf{q}_i\mathbf{q}_i^{\mathsf T}$——一组”互相垂直的不变方向”,是本课程最干净的图像(讲次 25)。

【计算机制解说】:为什么”$\lambda$ 描述长期增长率”这件事值得反复强调? 因为矩阵幂 $A^k$ 在一般情况下极难计算($k$ 次矩阵乘法),但在特征向量基下它变成 $n$ 个标量的幂 $\lambda_i^k$——矩阵问题被拆成 $n$ 个独立的一维问题。这就是特征值方法的全部价值:找一个坐标系,让耦合的、互相干扰的变换解耦成互不相干的纯伸缩。一旦接受这个视角,$A=S\Lambda S^{-1}$(讲次 22)、$e^{At}=Se^{\Lambda t}S^{-1}$(讲次 23)、$A=Q\Lambda Q^{\mathsf T}$(讲次 25)全都是同一句话的三次重述。

示例 5(应用预告,讲次 22 详算):Fibonacci 矩阵 $F=\begin{bmatrix}1&1\\1&0\end{bmatrix}$

步骤 1–2:$\operatorname{tr}F=1$,$\det F=0-1=-1$,故

\[\det(F-\lambda I)=\lambda^2-\lambda-1=0\ \Longrightarrow\ \lambda=\frac{1\pm\sqrt{5}}{2}=1.618\ldots,\ -0.618\ldots\]

步骤 3:正的根正是黄金比 $\varphi=\frac{1+\sqrt5}{2}$,负的根 $\psi=\frac{1-\sqrt5}{2}=-1/\varphi$。 步骤 5(验算):$\lambda_1\lambda_2=-1=\det F$ ✓;$\lambda_1+\lambda_2=1=\operatorname{tr}F$ ✓。 含义:Fibonacci 递推 $a_{k+1}=a_k+a_{k-1}$ 写成 $u_{k+1}=Fu_k$,故 $a_k\approx c\,\varphi^{\,k}$——增长率为 $\varphi$。因为 $\vert \psi\vert <1$,$k$ 大时 $\psi^k\to0$,这就是为什么 $a_{k+1}/a_k\to\varphi$。一个纯组合的递推,最终由特征值给出精确增长率。

矩阵分解的核心思想

本讲不直接引入新分解,它是分解链条上的一级台阶:

  • $A=S\Lambda S^{-1}$(讲次 22 对角化)——本讲的全部工作是为它准备原料。$S$ 的每一列就是一个特征向量,$\Lambda$ 是对角线上排着对应特征值的对角阵。等价地 $AS=S\Lambda$:矩阵乘 $S$ 的每一列分别被自己的 $\lambda$ 伸缩。前提是本讲反复强调的那句话:必须有 $n$ 个线性无关的特征向量。示例 2 的缺陷矩阵正是在这里卡住。
  • $A=Q\Lambda Q^{\mathsf T}$(讲次 25 谱定理)——当 $A$ 是对称矩阵时,特征向量可以选成两两正交的单位向量,$S$ 升级为正交矩阵 $Q$,$S^{-1}$ 变成 $Q^{\mathsf T}$。这是最漂亮的一类分解,示例 1 已经露出苗头($\mathbf{x}_1\perp\mathbf{x}_2$)。
  • $A^k=S\Lambda^k S^{-1}$——分解的价值所在:幂次从矩阵乘法降为标量乘方,$u_{k+1}=Au_k$ 的解直接写成 $u_k=\sum c_i\lambda_i^k\mathbf{x}_i$。稳定性判据立刻变成 $\vert \lambda_i\vert <1$(讲次 22)。
  • $A=U\Sigma V^{\mathsf T}$(讲次 29 SVD)——对不可对角化的矩阵也永远成立;$\sigma_i=\sqrt{\lambda_i(A^{\mathsf T}A)}$,SVD 的奇异值就是本讲概念”借壳”到任意矩阵上的版本。

分解的链条:本讲处在哪一环

   A = LU        ← 讲次 2      消元,解方程 Ax=b
   A = QR        ← 讲次 17     正交基,最小二乘
   A = SΛS⁻¹     ← 讲次 22     【本讲提供原料】n 个线性无关特征向量
        │                        ├─ A 对称时升级为 A = QΛQᵀ   (讲次 25)
        │                        └─ A 缺陷时降级为 A = SJS⁻¹  (讲次 28)
   A = UΣVᵀ      ← 讲次 29     任意矩阵都能做:σ = √λ(AᵀA)

   关键依赖:本讲算不出"足够多的特征向量",整条特征值支线全部崩塌。
   判别式只有一个:Σ dim N(A − λᵢI) 是否等于 n。

与其他讲次的关联

  • 讲次 18–20(行列式):本讲把行列式当作求根工具使用——$\det(A-\lambda I)=0$;三角阵行列式 = 对角元之积,直接给出三角阵的特征值;$\det A=\prod\lambda_i$ 把可逆性判据与”0 是不是特征值”联系起来。
  • 讲次 6–8(四个基本子空间):特征向量所在的特征空间就是零空间 $N(A-\lambda I)$,$\dim N(A-\lambda I)=n-\operatorname{rank}(A-\lambda I)$ 是判断”特征向量够不够”的唯一标尺。
  • 讲次 22(对角化与 $A^k$):直接的下一讲。$A=S\Lambda S^{-1}$ 的可行性由本讲的重数比较决定;$A^k\to0\Leftrightarrow$ 所有 $\vert \lambda\vert <1$。
  • 讲次 23(微分方程 $\mathrm{d}u/\mathrm{d}t=Au$):解为 $u(t)=\sum c_ie^{\lambda_i t}\mathbf{x}_i$,稳定性由 $\operatorname{Re}\lambda_i<0$ 决定(复特征值在此真正登场)。
  • 讲次 24(马尔可夫矩阵):必有一个 $\lambda=1$,稳态向量就是它的特征向量。
  • 讲次 25(对称矩阵与正定):实对称矩阵的 $\lambda$ 全为实数、特征向量可选为正交;正定 $\Leftrightarrow$ 所有 $\lambda_i>0$。
  • 讲次 28(Jordan 形):示例 2 的缺陷矩阵在那里被彻底处理。
  • 讲次 29(SVD):奇异值 $\sigma=\sqrt{\lambda(A^{\mathsf T}A)}$,是特征值概念对非方阵的推广。

关键要点

  1. 定义式:$A\mathbf{x}=\lambda\mathbf{x}$,$\mathbf{x}\neq\mathbf{0}$。求法三步走:$A-\lambda I$ → $\det(A-\lambda I)=0$ 解 $\lambda$ → 解 $(A-\lambda I)\mathbf{x}=\mathbf{0}$ 得特征向量。
  2. 两条免费验算公式:$\sum_i\lambda_i=\operatorname{tr}(A)$,$\prod_i\lambda_i=\det A$。任何算出的特征值都要先过这两关。
  3. 三角 / 对角矩阵的特征值就是对角元;特别地 $\det A=0\Longleftrightarrow \lambda=0$ 是特征值 $\Longleftrightarrow A$ 奇异。
  4. “$n$ 个特征值”与”$n$ 个独立特征向量”是两回事:前者按重数永远成立,后者要求每个 $\lambda$ 的几何重数 = 代数重数;否则矩阵缺陷、不可对角化。
  5. 实矩阵允许复特征值,且成共轭对出现($\lambda=a\pm bi$,则 $2a=\operatorname{tr}A$、$a^2+b^2=\det A$);对称矩阵是唯一”保证全实”的重要类别。

常见误区与注意事项

  1. 以为特征向量唯一。 特征向量从不唯一:$\mathbf{x}$ 可以乘任意非零常数,$2\mathbf{x}$、$-\mathbf{x}$、$\frac{1}{3}\mathbf{x}$ 都是同一特征向量。答案应该写成”特征空间的一组基”或”$\mathrm{span}\{\cdot\}$”的形式,而不是一个孤立箭头。此外不要漏掉 $\lambda=0$ 时特征空间也可能不止一维。
  2. 以为重根一定不可对角化。 反例:$A=\begin{bmatrix}2&0\\0&2\end{bmatrix}$,$\det(A-\lambda I)=(2-\lambda)^2$ 二重根,但 $A-2I=0$ 的零空间是整个 $\mathbb{R}^2$,几何重数 $=2=$ 代数重数,可以对角化(实际上它本身就是 $\Lambda=2I$)。重根只是”可能”缺陷,判据永远是 $\dim N(A-\lambda I)$ 而不是重数。同理,$A=\begin{bmatrix}2&0\\0&3\end{bmatrix}$ 有两个不同特征值但只有两族特征向量,也不比对称矩阵特殊。
  3. 忘记复特征值是合法答案。 遇到 $\lambda^2+1=0$ 就写”无特征值”是错的;正确答案是 $\lambda=\pm i$,它精确描述了旋转。只有实对称矩阵才保证不出现复特征值。
  4. $\det(A-\lambda I)$ 与 $\det(\lambda I-A)$ 的符号混淆。 两者相差因子 $(-1)^n$:$\det(\lambda I-A)=(-1)^n\det(A-\lambda I)$,多项式不同但根完全相同,不会影响特征值。不过用 $\det(A-\lambda I)$ 时 $\lambda^2$ 项系数为 $+1$,与 $\lambda^2-\operatorname{tr}\lambda+\det$ 的形式一致,更不容易出错;写特征向量方程时也必须与所选的 $\lambda I-A$ 或 $A-\lambda I$ 保持一致的方向。
  5. 把特征值的”加法”当成线性。 $A+B$ 的特征值一般不等于 $A$、$B$ 特征值之和;$2A$ 的特征值才是 $2\lambda$,$A+2I$ 的特征值才是 $\lambda+2$(同特征向量)。只有相似矩阵($B=M^{-1}AM$)才共享同一组特征值——这提醒我们特征值属于线性变换自身,与所选基无关(讲次 30–33)。
  6. 算完 $\lambda$ 就停手。 本讲的产出是特征对,$(A-\lambda I)\mathbf{x}=\mathbf{0}$ 的零空间必须显式求出;只列特征值而不写特征向量,讲次 22 的 $S$ 就无从下手。
  7. 把”特征值都是实数”当成普遍事实。 只有对称矩阵(更一般地,实正规矩阵)有实特征值保证;一般实矩阵完全可以只有复特征值(旋转)。同样易错的是把 $A^k$ 中的 $\lambda^k$ 写成”取绝对值”——$(-0.9)^k$ 会正负交替地趋于 0,$(-1.1)^k$ 会正负交替地爆炸,符号本身携带振荡信息。

思考题(带答案)

Q1. 求 $A=\begin{bmatrix}4&1\\2&3\end{bmatrix}$ 的全部特征值与一组特征向量,并用迹与行列式验算。

答案 **特征多项式**: $$\det(A-\lambda I)=(4-\lambda)(3-\lambda)-1\cdot2=\lambda^2-7\lambda+(12-2)=\lambda^2-7\lambda+10=(\lambda-5)(\lambda-2).$$ 故 $\\lambda_1=5,\\ \\lambda_2=2$。 **$\\lambda_1=5$**:$A-5I=\\begin{bmatrix}-1&1\\\\2&-2\\end{bmatrix}\\xrightarrow{\\text{消元}}\\begin{bmatrix}-1&1\\\\0&0\\end{bmatrix}$,$-x_1+x_2=0$,取 $\\mathbf{x}_1=(1,1)^{\\mathsf T}$。 验算:$A(1,1)^{\\mathsf T}=(4+1,\\ 2+3)^{\\mathsf T}=(5,5)^{\\mathsf T}=5(1,1)^{\\mathsf T}$ ✓ **$\\lambda_2=2$**:$A-2I=\\begin{bmatrix}2&1\\\\2&1\\end{bmatrix}\\xrightarrow{\\text{消元}}\\begin{bmatrix}2&1\\\\0&0\\end{bmatrix}$,$2x_1+x_2=0$,取 $\\mathbf{x}_2=(1,-2)^{\\mathsf T}$。 验算:$A(1,-2)^{\\mathsf T}=(4-2,\\ 2-6)^{\\mathsf T}=(2,-4)^{\\mathsf T}=2(1,-2)^{\\mathsf T}$ ✓ **免费验算**:$\\operatorname{tr}A=4+3=7=5+2$ ✓;$\\det A=12-2=10=5\\times2$ ✓。 **注意**:特征向量不唯一,$(2,2)^{\\mathsf T}$、$(-1,-1)^{\\mathsf T}$ 同样是 $\\lambda=5$ 的特征向量——答案应理解为 $\\mathrm{span}\\{(1,1)^{\\mathsf T}\\}$ 与 $\\mathrm{span}\\{(1,-2)^{\\mathsf T}\\}$。

Q2.(概念题)(a) 用自己的话解释为什么特征方程是 $\det(A-\lambda I)=0$,而不是 $\det(A)=0$ 或别的条件。(b) $A=\begin{bmatrix}2&0\\0&2\end{bmatrix}$ 的特征值 2 是二重的,它能被对角化吗?与 $\begin{bmatrix}3&1\\0&3\end{bmatrix}$ 相比差别究竟在哪里?

答案 **(a)** 我们要解 $A\\mathbf{x}=\\lambda\\mathbf{x}$,移项得 $(A-\\lambda I)\\mathbf{x}=\\mathbf{0}$,并且要求 $\\mathbf{x}\\neq\\mathbf{0}$($\\mathbf{x}=\\mathbf{0}$ 对任何 $\\lambda$ 都成立,毫无信息)。由讲次 6–8、18 的判据链: $$\text{存在非零解}\iff N(A-\lambda I)\neq\{\mathbf{0}\}\iff A-\lambda I\ \text{奇异}\iff\det(A-\lambda I)=0.$$ $\\det A=0$ 是另一个问题("$A$ 是否可逆"、"0 是不是特征值"),它只对应 $\\lambda=0$ 这一个特例,不可能筛出全部 $\\lambda$。 **(b)** 两者代数重数都是 2,但几何重数不同: - $A_1=\\begin{bmatrix}2&0\\\\0&2\\end{bmatrix}$:$A_1-2I=\\begin{bmatrix}0&0\\\\0&0\\end{bmatrix}$,$\\operatorname{rank}=0$,$\\dim N=2-0=2=$ 代数重数,**可以**对角化,且 $S$ 可取任意可逆矩阵($A_1$ 已经是 $2I=\\Lambda$ 本身)。 - $A_2=\\begin{bmatrix}3&1\\\\0&3\\end{bmatrix}$:$A_2-3I=\\begin{bmatrix}0&1\\\\0&0\\end{bmatrix}$,$\\operatorname{rank}=1$,$\\dim N=2-1=1<2$,**不可**对角化,是缺陷矩阵。 差别不在重数,而在 **$A-\\lambda I$ 掉了多少秩**:掉 0 秩给足特征方向,掉 1 秩就少一个方向。判据永远是 $\\dim N(A-\\lambda I)=n-\\operatorname{rank}(A-\\lambda I)$。缺陷情形要到讲次 28 的 Jordan 形才被完整刻画。

Q3. 已知某 $3\times3$ 矩阵 $A$ 的三个特征值为 $\lambda=1,2,3$,且对应特征向量 $\mathbf{x}_1,\mathbf{x}_2,\mathbf{x}_3$ 线性无关。求: (a) $\operatorname{tr}(A)$ 与 $\det(A)$; (b) $A^{-1}$ 的特征值与特征向量; (c) $A+2I$ 的特征值与特征向量; (d) $A^{k}$ 的特征值与特征向量; (e) $A$ 可逆吗?$A\mathbf{x}=\mathbf{b}$ 对每个 $\mathbf{b}$ 是否唯一可解?

答案 **(a)** $\\operatorname{tr}(A)=\\sum\\lambda_i=1+2+3=6$;$\\det(A)=\\prod\\lambda_i=1\\cdot2\\cdot3=6$。 **(b)** 由 $A\\mathbf{x}_i=\\lambda_i\\mathbf{x}_i$($\\lambda_i\\neq0$)两边左乘 $A^{-1}$:$\\mathbf{x}_i=\\lambda_iA^{-1}\\mathbf{x}_i$,即 $A^{-1}\\mathbf{x}_i=\\frac{1}{\\lambda_i}\\mathbf{x}_i$。故特征值为 $1,\\ \\tfrac12,\\ \\tfrac13$,特征向量仍是 $\\mathbf{x}_1,\\mathbf{x}_2,\\mathbf{x}_3$。 **(c)** $(A+2I)\\mathbf{x}_i=A\\mathbf{x}_i+2\\mathbf{x}_i=(\\lambda_i+2)\\mathbf{x}_i$。特征值 $3,4,5$,特征向量不变。**注意**:这是"平移"规则($A+cI$ 只平移 $\\lambda$),不能推广成"和矩阵的特征值等于特征值之和"。 **(d)** $A^k\\mathbf{x}_i=A^{k-1}(\\lambda_i\\mathbf{x}_i)=\\cdots=\\lambda_i^k\\mathbf{x}_i$。特征值 $1^k,2^k,3^k$,特征向量不变。这正是不对角化也能得到 $A^k$ 作用在特征向量上的原因,讲次 22 将把它推广成 $u_k=\\sum c_i\\lambda_i^k\\mathbf{x}_i$。 **(e)** $\\det A=6\\neq0$,$A$ 可逆;$\\lambda=0$ 不是特征值也印证了这一点。三个特征向量线性无关构成 $\\mathbb{R}^3$ 的基,$N(A)=\\{\\mathbf{0}\\}$,因此对每个 $\\mathbf{b}$ 都存在**唯一**解 $\\mathbf{x}=A^{-1}\\mathbf{b}$。 **补充验算**:$\\det(A^{-1})=1/6=1\\cdot\\tfrac12\\cdot\\tfrac13$ ✓;$\\det(A+2I)=3\\cdot4\\cdot5=120$,用 $\\det(A+2I)=\\prod(\\lambda_i+2)$ 一次读出,无需展开行列式。