Lecture 10: The Four Fundamental Subspaces

目录 · ← l9 · l11 →

Lecture 10: The Four Fundamental Subspaces

概述

第 9 讲我们学会了怎么判断一组向量是不是子空间；本讲要把它用在矩阵 $A$（$m\times n$，秩为 $r$）身上，找出四个”天生”就绑定在 $A$ 上的子空间：列空间 C(A)、零空间 N(A)、行空间 C(Aᵀ)、左零空间 N(Aᵀ)。它们被 Strang 称为 the four fundamental subspaces（四个基本子空间），是整个 18.06 的”统一场论”——从本讲到课程结束，几乎每一个新概念（投影、最小二乘、伪逆、SVD）都只是在这张图上再加一笔。

本讲的三大成果：（1）维数定理 $\dim C(A)=\dim C(A^{\mathsf T})=r$，$\dim N(A)=n-r$，$\dim N(A^{\mathsf T})=m-r$；（2）正交关系 C(Aᵀ) ⊥ N(A)、C(A) ⊥ N(Aᵀ)，且在各自空间里恰好互补；（3）A = CR 分解，它把”秩 $r$”这句话翻译成了一个精确的等式。学会这一讲，你就拿到了理解”$A\mathbf{x}=\mathbf{b}$ 什么时候有解、有多少解”的完整钥匙。

核心概念的几何直觉

在展开之前，先立一条贯穿全讲的空间归属表。这是最容易出错的地方，请先记住：

一句话记法：“$A$ 把 $\mathbb{R}^n$ 射到 $\mathbb{R}^m$，所以凡是跟输入 $\mathbf{x}$ 有关的（行空间、零空间）住 $\mathbb{R}^n$；凡是跟输出 $\mathbf{b}$ 有关的（列空间、左零空间）住 $\mathbb{R}^m$。” 行空间不是 $\mathbb{R}^m$ 里的东西——这是 18.06 考试里最常见的送命题。

概念一：列空间 C(A)（column space）

• 定义与目的：C(A) 是 $A$ 的所有列的线性组合构成的集合，也就是集合 $\{A\mathbf{x} : \mathbf{x}\in\mathbb{R}^n\}$。它的目的很单纯：$A\mathbf{x}=\mathbf{b}$ 有解 $\iff$ $\mathbf{b}\in C(A)$。列空间就是”$A$ 能造出来的所有右边项 $\mathbf{b}$”的总和。

• 几何直觉（它在空间中是什么样子？）：把 $A$ 看成一个线性变换，它把整个 $\mathbb{R}^n$ 压扁、旋转、拉伸后得到的像，就是 C(A)。$A$ 有 $n$ 个列向量，但很多列可能是”废的”（前面列的线性组合），真正能撑开新方向的只有 $r$ 个——所以 C(A) 是 $\mathbb{R}^m$ 中过原点的一个 $r$ 维”平板”（$r=1$ 是直线，$r=2$ 是平面，$r=m$ 就撑满整个 $\mathbb{R}^m$）。关键点：C(A) 是 $\mathbb{R}^m$ 的子空间，不是 $\mathbb{R}^n$ 的。 3×3 矩阵的列空间住在 $\mathbb{R}^3$；3×4 矩阵的列空间也住在 $\mathbb{R}^3$（4 个列向量塞在三维空间里，必然有冗余）。

• 具体示例：取 \(A_1=\begin{bmatrix}1&2&3\\2&4&6\\1&2&3\end{bmatrix}.\) 第二列恰好是第一列的 2 倍，第三列是第一列的 3 倍。三个列向量全躺在同一条直线上，所以 C(A₁) 是一条直线（1 维），例如 $\operatorname{span}\{(1,2,1)^{\mathsf T}\}$。注意 $A_1$ 是 3×3，但 C(A₁) 只有 1 维——矩阵大小和列空间维数无关。

概念二：零空间 N(A)（nullspace）

• 定义与目的：N(A) 是所有满足 $A\mathbf{x}=\mathbf{0}$ 的 $\mathbf{x}$ 的集合。它的目的是记录”$A$ 抹掉了哪些方向”：如果 $\mathbf{x}\in N(A)$ 且 $\mathbf{x}\neq\mathbf{0}$，那么 $A$ 把这个非零向量直接压成了零。N(A) 控制 $A\mathbf{x}=\mathbf{b}$ 的解的自由度（有多少个特解之外的”零空间漂移”）。

• 几何直觉（它在空间中是什么样子？）：N(A) 是 $\mathbb{R}^n$ 中过原点的一个子空间——为什么过原点？因为 $A\mathbf{0}=\mathbf{0}$，零向量永远在；为什么封闭？因为 $A\mathbf{x}=\mathbf{0}$ 且 $A\mathbf{y}=\mathbf{0}$ 时，$A(\mathbf{x}+\mathbf{y})=\mathbf{0}+\mathbf{0}=\mathbf{0}$。几何上，零空间就是变换 $A$ 的”盲区“（Strang 常说的 the subspace that gets wiped out）：它是 $\mathbb{R}^n$ 中被 $A$ 整块压到原点去的那些方向。

• 具体示例：对上面的 $A_1$： \(A_1\mathbf{x}=\mathbf{0}\iff x_1\begin{bmatrix}1\\2\\1\end{bmatrix}+x_2\begin{bmatrix}2\\4\\2\end{bmatrix}+x_3\begin{bmatrix}3\\6\\3\end{bmatrix}=\begin{bmatrix}0\\0\\0\end{bmatrix}.\) 只看第一行就得到 $x_1+2x_2+3x_3=0$（第二行是它的 2 倍、第三行与它相同，自动满足）。所以零空间由一个方程决定。这是 $\mathbb{R}^3$ 中一个平面的方程，所以 N(A₁) 是 2 维的——一条”零空间平面”。稍后我们会算出它的两组基 $(-2,1,0)$ 和 $(-3,0,1)$。

概念三：行空间 C(Aᵀ)（row space）

• 定义与目的：C(Aᵀ) 是 $A$ 的所有行的线性组合。注意 $A^{\mathsf T}$ 是 $n\times m$ 矩阵，它的列就是 $A$ 的行，所以 C(Aᵀ) 就是”$A$ 的行空间”。它的目的是回答：$A\mathbf{x}=\mathbf{b}$ 的每个方程在说什么？ 第 $i$ 个方程是”$\mathbf{x}$ 与第 $i$ 行做内积 = $b_i$”，所以整组方程真正携带的信息，全在行空间里。

• 几何直觉（它在空间中是什么样子？）：行空间住在 $\mathbb{R}^n$，而且可以和零空间画在同一个方块里。它是消元过程中”行向量能张成的那部分”。几何上它最生动的角色是约束空间：每一个行向量 $\mathbf{r}$ 都对解 $\mathbf{x}$ 施加一条”$\mathbf{r}\cdot\mathbf{x}=b$”的约束；$r$ 个独立约束把解集从一个 $n$ 维空间削成 $n-r$ 维。

• 具体示例：$A_1$ 的三行是 $(1,2,3),(2,4,6),(1,2,3)$，后两行都是第一行的倍数，所以 C(A₁ᵀ) = $\operatorname{span}\{(1,2,3)\}$，1 维，住在 $\mathbb{R}^3$ 中。

概念四：左零空间 N(Aᵀ)（left nullspace）

• 定义与目的：N(Aᵀ) 是所有满足 $A^{\mathsf T}\mathbf{y}=\mathbf{0}$ 的 $\mathbf{y}$。为什么叫”左”零空间？把 $A^{\mathsf T}\mathbf{y}=\mathbf{0}$ 两边转置得 $\mathbf{y}^{\mathsf T}A=\mathbf{0}^{\mathsf T}$——$\mathbf{y}^{\mathsf T}$ 乘在 $A$ 的左边，故名。它的目的是回答：$A$ 的各行之间存在哪些线性关系？ 因为 $A^{\mathsf T}\mathbf{y}=\mathbf{0}$ 展开就是 $y_1(\text{row}_1)+y_2(\text{row}_2)+\cdots+y_m(\text{row}_m)=\mathbf{0}$，即”行向量的一个零组合”。它同时给出 $A\mathbf{x}=\mathbf{b}$ 的相容性条件（solvability condition）。

• 几何直觉（它在空间中是什么样子？）：N(Aᵀ) 住在 $\mathbb{R}^m$，和列空间同住一个方块。它是 $\mathbb{R}^m$ 中”与 $A$ 的所有列都垂直”的方向——因为 $\mathbf{y}^{\mathsf T}A=\mathbf{0}$ 意味着 $\mathbf{y}^{\mathsf T}(\text{每一列})=0$。所以左零空间是列空间的正交补。

• 具体示例：$A_1$ 满足 $\text{row}_2=2\,\text{row}_1$、$\text{row}_3=\text{row}_1$，所以 $\mathbf{y}=(-2,1,0)^{\mathsf T}$ 和 $\mathbf{y}=(-1,0,1)^{\mathsf T}$ 都在 N(A₁ᵀ) 里，2 维。它们也就是说：右边项必须满足 $b_2=2b_1$ 和 $b_3=b_1$，$A_1\mathbf{x}=\mathbf{b}$ 才有解。

把四个子空间画进一张图（Strang 的”大图”）

这是 18.06 最著名的一张图。左边方块是输入空间 $\mathbb{R}^n$，右边方块是输出空间 $\mathbb{R}^m$，中间是变换 $A$。每个方块都被”切成”两半：$r$ 维的那半是 $A$ 真正”干活”的，$n-r$ 或 $m-r$ 维的那半是被 $A$ 压成零的。

                              A   (m x n , rank r)
              R^n   ------------------------------>   R^m

      +---------------------------+          +---------------------------+
      |                           |          |                           |
      |    row space  C(A^T)      |  ------> |    column space  C(A)     |
      |    dim = r                |  1-to-1  |    dim = r                |
      |                           |          |                           |
      +---------------------------+          +---------------------------+
      |                           |          |                           |
      |    nullspace  N(A)        |  ------> |    left nullspace N(A^T)  |
      |    dim = n - r            |   -->0   |    dim = m - r            |
      |                           |          |                           |
      +---------------------------+          +---------------------------+
             dimension n                            dimension m

  正交分解:   R^n = C(A^T)  (+)  N(A)        R^m = C(A)  (+)  N(A^T)
             (两个方块里的两半互相垂直, 且张满整个空间)

用 $A_1$（$m=n=3$，$r=1$）代入这张图：

              A_1 : R^3  ------------------------>  R^3      (rank r = 1)

      +---------------------------+          +---------------------------+
      |  C(A_1^T) = span(1,2,3)   |          |  C(A_1) = span(1,2,1)     |
      |  dim = 1                  |  ------> |  dim = 1                  |
      +---------------------------+          +---------------------------+
      |  N(A_1) : x1+2x2+3x3 = 0  |          |  N(A_1^T) : y1+2y2+y3 = 0 |
      |  dim = 2                  |   -->0   |  dim = 2                  |
      +---------------------------+          +---------------------------+
             dimension 3                               dimension 3

      1 + 2 = 3 = n   OK          1 + 2 = 3 = m   OK

读图的三个要点：

1. 上下两半是正交的（虚线切开的两个区域互相垂直），而不是随便切。
2. $A$ 把行空间一对一地映到列空间（left half → left half, 1-to-1）。这是”秩 = 行秩 = 列秩”的几何化身：$r$ 维进，$r$ 维出，不压扁也不多余。
3. $A$ 把零空间整块压到原点（$n-r$ 维进去，出来只有 $\mathbf{0}$）。所以 $A\mathbf{x}=\mathbf{b}$ 有解时，解集是一条 $n-r$ 维的”平移过的零空间”。

定理一：行秩 = 列秩（维数定理的核心）

这条定理是整个课程最”反直觉但极重要”的事实：$A$ 有 $m$ 行、$n$ 列，行数与列数通常不相等，可是独立行的最大数目恰好等于独立列的最大数目。一个 3×7 的矩阵可以最多有 3 个独立行，但为什么它也最多只有 3 个独立列？为什么不能是 5？

证明（消元视角，最直观的一种）。

对 $A$ 做消元得到行阶梯形 $U$（或 RREF）。记 $r$ 为 $U$ 的非零行数，也就是主元的个数。我们分别数两边的秩。

(1) 行秩 $=r$。 消元是可逆的行操作，每一步都是”某行减去另一行的倍数”或”交换两行”或”某行乘非零数”。这类操作不改变行向量之间的线性关系： \(\sum c_i\,\text{row}_i(A)=\mathbf{0}\iff\sum c_i\,\text{row}_i(U)=\mathbf{0}.\) （理由：行操作等价于左乘可逆矩阵 $E$，$EA\mathbf{c}$ 与 $A\mathbf{c}$ 同为零当且仅当 $\mathbf{c}$ 使 $A\mathbf{c}=\mathbf{0}$，因为 $E$ 可逆。）所以 $A$ 的行空间与 $U$ 的行空间是同一个子空间，行秩 $=\dim C(A^{\mathsf T})=\dim C(U^{\mathsf T})$。

而在 $U$ 中，非零行显然线性无关（每一行都有一个其他行没有的主元位置——第 $i$ 个非零行的主元在第 $p_i$ 列，且第 $p_i$ 列在其他非零行处都是 0）。零行不贡献。因此 $\dim C(U^{\mathsf T})=r$，即

(2) 列秩 $=r$。 这一半要用”主元列“。在 RREF 中，主元列恰好是标准基向量 $\mathbf{e}_1,\dots,\mathbf{e}_r$（按主元顺序），它们显然线性无关；而非主元列都是主元列的线性组合（RREF 里该列的数字就是系数）。所以 RREF 的列秩 $=r$。

因为行操作保持”列与列之间的线性关系”（见后面【计算机制解说】的详细论证），$A$ 的列之间的线性关系与 RREF 的列完全相同，所以 $A$ 的列秩也 $=r$：

结论：行秩 = 列秩 = $r$ = 主元个数 = $U$ 的非零行数。这个 $r$ 被统称为矩阵的秩，它同时是”独立行的最大数目”与”独立列的最大数目”。

为什么这件事不平凡？ 用一张图看：

   一个 3 x 7 的矩阵 A (m=3, n=7)。
   行只有 3 个, 所以行秩 <= 3 是显然的。
   但列有 7 个!  为什么列秩也不可能超过 3 ?

   答案: 7 个列向量住在一个 3 维的空间 R^3 里。
         n 个向量若住在 R^m 中, 它们最多只能张成 m 维。

   +-------------------------------------------------+
   |  列向量 (7 个箭头挤在 R^3 里)                     |
   |    col1 col2 col3 col4 col5 col6 col7           |
   |     \    |    /   \    |    /   /               |
   |      \   |   /     \   |   /   /                |
   |       v  v  v       v  v  v   v                 |
   |        张成的最多 3 维!  r <= m = 3              |
   +-------------------------------------------------+

   所以 r <= min(m, n) 是必然的; 而 r = 行秩 = 列秩。
   一般结论: rank(A) <= min(m, n)   ("秩不超过短边")

一般情况下：$r\le m$（因为 $r$ 个主元分布在 $m$ 行里）且 $r\le n$（因为 $r$ 个主元分布在 $n$ 列里），所以

当 $r=\min(m,n)$ 时称矩阵为满秩（full rank）：$m\le n$ 时叫满行秩，$n\le m$ 时叫满列秩。

定理二：正交关系（严格证明）

定理：在 $\mathbb{R}^n$ 中 $C(A^{\mathsf T})\perp N(A)$ 且二者互补；在 $\mathbb{R}^m$ 中 $C(A)\perp N(A^{\mathsf T})$ 且二者互补。

证明（第一部分：正交性）。

任取 $\mathbf{x}\in N(A)$ 和 $A$ 的任意一行 $\mathbf{a}_i^{\mathsf T}$（即 $A$ 的第 $i$ 行）。由 $A\mathbf{x}=\mathbf{0}$，第 $i$ 个分量给出

这就是”$\mathbf{x}$ 与第 $i$ 行正交”。因为 $i$ 任意，$\mathbf{x}$ 与 $A$ 的每一行都正交。而 $C(A^{\mathsf T})$ 的每个向量都是这些行的线性组合 $\sum c_i\mathbf{a}_i$，于是

所以每个 $\mathbf{x}\in N(A)$ 与每个 $C(A^{\mathsf T})$ 的向量正交，即 $C(A^{\mathsf T})\perp N(A)$。∎

这个证明的一句话版本：“$A\mathbf{x}=\mathbf{0}$ 的全部含义就是：$\mathbf{x}$ 垂直于 $A$ 的每一行。而’垂直于每一行’就是’垂直于行空间’。” 零空间的定义式本身就是一条正交声明——这是四个子空间理论的”种子”。

证明（第二部分：互补性，即维数相加等于 $n$）。

正交只说明 $C(A^{\mathsf T})^{\perp}\supseteq N(A)$，还要说明没有多余。用维数：

• 已知 $\dim C(A^{\mathsf T})=r$，$\dim N(A)=n-r$，两者相加 $=n$。
• 直接取 $A$ 的 RREF，主元列给出 $r$ 个独立的约束。解 $A\mathbf{x}=\mathbf{0}$ 时，$n-r$ 个自由变量对应 $n-r$ 个线性无关的解向量（每个自由变量取 1、其余取 0，得到一组”单位自由坐标”向量，它们显然线性无关）。所以 $\dim N(A)=n-r$ 已被独立算出。
• 由于 $C(A^{\mathsf T})\subseteq N(A)^{\perp}$（第一部分）且 $\dim C(A^{\mathsf T})=r=n-(n-r)=n-\dim N(A)$，两边维数相同，于是 $C(A^{\mathsf T})=N(A)^{\perp}$，即二者正交互补。

写成分解式：

为什么”$\oplus$”（直和）不允许有公共非零向量？ 设 $\mathbf{v}$ 同时属于 $C(A^{\mathsf T})$ 与 $N(A)$。由正交性，$\mathbf{v}\perp\mathbf{v}$，即 $\mathbf{v}^{\mathsf T}\mathbf{v}=\vert \mathbf{v}\vert ^2=0$，故 $\mathbf{v}=\mathbf{0}$。“自垂直的向量只能是零向量”——这个简单的观察保证了分解的唯一性：任何 $\mathbf{x}\in\mathbb{R}^n$ 都能唯一地写成一个行空间向量加一个零空间向量。

几何含义：给定任意 $\mathbf{b}\in\mathbb{R}^m$，它被唯一地拆成”$A$ 能达到的部分”（$\in C(A)$）与”$A$ 永远达不到的部分”（$\in N(A^{\mathsf T})$）。加粗说：$\mathbf{b}$ 能写进 C(A) 的部分就是最小二乘要逼近的部分，剩下的垂直残差就是 $N(A^{\mathsf T})$ 的分量。 这就是讲次 14–16 的投影理论的起点。

计算步骤与手算演示

求四个子空间的基是考试核心技能。先给出通用流程：

警告（第一大坑）：C(A) 的基必须取自原矩阵 $A$ 的列，不能取 RREF 的列！行操作会改变列空间本身（虽然不改变它的维数）。

示例一：秩 1 的 3×3 矩阵，把四个子空间算穿

步骤 1：消元求 RREF 与主元。

$r_2\leftarrow r_2-2r_1$，$r_3\leftarrow r_3-r_1$：

已经是对角单位化的 RREF 了。主元在第 1 列，$r=1$。

步骤 2：行空间 C(A₁ᵀ)。 取 RREF 的非零行：基为 $(1,2,3)$，$\dim=1=r$ ✓

步骤 3：列空间 C(A₁)。 主元列号是 $\{1\}$，回原矩阵取第 1 列：基为 $(1,2,1)^{\mathsf T}$，$\dim=1=r$ ✓（第 2、3 列分别是它的 2 倍、3 倍。）

步骤 4：零空间 N(A₁)。 解 $x_1+2x_2+3x_3=0$。主元变量 $x_1$，自由变量 $x_2,x_3$。

• 令 $x_2=1,x_3=0$：$x_1=-2$，得 $\mathbf{v}_1=(-2,1,0)^{\mathsf T}$。
• 令 $x_2=0,x_3=1$：$x_1=-3$，得 $\mathbf{v}_2=(-3,0,1)^{\mathsf T}$。

$\dim N(A_1)=2=n-r$ ✓

步骤 5：左零空间 N(A₁ᵀ)。 $A_1^{\mathsf T}$ 是 3×3：$A_1^{\mathsf T}=\begin{bmatrix}1&2&1\\2&4&2\\3&6&3\end{bmatrix}$。它的行是 $(1,2,1),(2,4,2),(3,6,3)$，全部是 $(1,2,1)$ 的倍数。消元后 RREF 的非零行是 $(1,2,1)$，所以 $A_1^{\mathsf T}\mathbf{y}=\mathbf{0}$ 即 $y_1+2y_2+y_3=0$：

• $y_2=1,y_3=0\Rightarrow y_1=-2$：$\mathbf{w}_1=(-2,1,0)^{\mathsf T}$
• $y_2=0,y_3=1\Rightarrow y_1=-1$：$\mathbf{w}_2=(-1,0,1)^{\mathsf T}$

$\dim N(A_1^{\mathsf T})=2=m-r$ ✓

步骤 6：验证正交性（内积必须为 0）。

• C(A₁ᵀ) ⊥ N(A₁)：$(1,2,3)\cdot(-2,1,0)=-2+2+0=0$ ✓；$(1,2,3)\cdot(-3,0,1)=-3+0+3=0$ ✓
• C(A₁) ⊥ N(A₁ᵀ)：$(1,2,1)\cdot(-2,1,0)=-2+2+0=0$ ✓；$(1,2,1)\cdot(-1,0,1)=-1+0+1=0$ ✓

步骤 7：验证维数配平。 $1+2=3=n$（左边方块），$1+2=3=m$（右边方块）。

【计算机制解说】为什么”取原矩阵的主元列”能得到 C(A) 的基？ 关键洞察是：行操作会改变列空间，但保持列与列之间的线性关系不变。 理由：行操作等价于左乘一个可逆矩阵 $E$，即 $A\to EA$。设 $\sum c_j\,\text{col}_j(A)=\mathbf{0}$，两边左乘 $E$ 得 $\sum c_j\,\text{col}_j(EA)=\mathbf{0}$；反过来 $E$ 可逆也一样成立。所以”哪些列线性相关、以什么系数相关”这个信息在消元中完好无损。

于是：在 RREF 里，主元列显然是线性无关的（它们是带单位主元的标准列），非主元列则显式写成主元列的线性组合（RREF 里那一列的数字就是系数）。因为这个关系被消元保持了，回到 $A$ 里，同样位置的列也满足同样的关系：主元列线性无关，且每一非主元列都是它们的组合。因此主元列构成 C(A) 的一组基。

反过来说，RREF 的列本身不能做 C(A) 的基——RREF 的列空间和 $A$ 的列空间通常是不同的子空间。本例 $A_1$ 的列空间是 $\operatorname{span}\{(1,2,1)\}$，而 RREF 的列空间是 $\operatorname{span}\{(1,0,0)\}$——方向完全不同，只是维数相同（都是 1）。这解释了为什么两个子空间的维数相等而子空间本身不等。

【计算机制解说】为什么每消掉一个自由变量就多一个零空间基向量？ $A\mathbf{x}=\mathbf{0}$ 是 $m$ 个方程约束 $n$ 个未知量。消元把方程化简成 $r$ 个真正独立的约束（就是 RREF 的非零行，每个约束”钉住”一个主元变量）。剩下的 $n-r$ 个变量没人管，可以自由取值——每让一个自由变量取 1、其余自由变量取 0，主元变量就被唯一确定，于是得到 $n-r$ 个线性无关的特解，它们张成整个解空间。

这也顺手解释了”解的自由度”：$A\mathbf{x}=\mathbf{b}$ 有解时，解集是 $\mathbf{x}_{\text{particular}}+N(A)$，由 $n-r$ 个自由参数控制，这正是 N(A) 的维数。

示例二：3×4 秩 2 矩阵 —— 四子空间 + A = CR + 相容性条件

这个例子比示例一”信息量”大，四个维数 $2,2,2,1$ 各不相同，最能检验理解。

步骤 1：消元求 RREF。

$r_2\leftarrow r_2-r_1$，$r_3\leftarrow r_3-r_1$：

再把第 2 行乘 $-1$：$\begin{bmatrix}1&2&3&1\\0&1&1&0\\0&0&0&0\end{bmatrix}$；然后 $r_1\leftarrow r_1-2r_2$：

主元在第 1、2 列，$r=2$。

步骤 2：行空间 C(A₂ᵀ)。 非零行 $(1,0,1,1)$、$(0,1,1,0)$，$\dim=2=r$ ✓（住在 $\mathbb{R}^4$。）

步骤 3：列空间 C(A₂)。 主元列号 $\{1,2\}$，回原矩阵取第 1、2 列：$(1,1,1)^{\mathsf T}$ 与 $(2,1,2)^{\mathsf T}$，$\dim=2=r$ ✓（住在 $\mathbb{R}^3$。）

步骤 4：零空间 N(A₂)。 RREF 给出 $x_1+x_3+x_4=0$，$x_2+x_3=0$。自由变量 $x_3,x_4$：

• $x_3=1,x_4=0\Rightarrow x_2=-1,\;x_1=-1$：$\mathbf{v}_1=(-1,-1,1,0)^{\mathsf T}$
• $x_3=0,x_4=1\Rightarrow x_2=0,\;x_1=-1$：$\mathbf{v}_2=(-1,0,0,1)^{\mathsf T}$

$\dim N(A_2)=2=n-r=4-2$ ✓（住在 $\mathbb{R}^4$，和行空间同屋。）

步骤 5：左零空间 N(A₂ᵀ)。 直接观察 $A_2$ 的行：$\text{row}_3=\text{row}_1$，所以 $(1,0,-1)$ 是行（第 3 行减第 1 行）的一个零组合；而第 2 行与第 1 行不成比例，没有别的独立关系。所以

（住在 $\mathbb{R}^3$，和列空间同屋。）

步骤 6：验算正交性。

• C(A₂ᵀ) ⊥ N(A₂)：
  • $(1,0,1,1)\cdot(-1,-1,1,0)=-1+0+1+0=0$ ✓
  • $(1,0,1,1)\cdot(-1,0,0,1)=-1+0+0+1=0$ ✓
  • $(0,1,1,0)\cdot(-1,-1,1,0)=0-1+1+0=0$ ✓
  • $(0,1,1,0)\cdot(-1,0,0,1)=0+0+0+0=0$ ✓
• C(A₂) ⊥ N(A₂ᵀ)：
  • $(1,1,1)\cdot(1,0,-1)=1+0-1=0$ ✓
  • $(2,1,2)\cdot(1,0,-1)=2+0-2=0$ ✓

步骤 7：用左零空间判断 $A_2\mathbf{x}=\mathbf{b}$ 何时有解。 相容性条件是 $\mathbf{y}^{\mathsf T}\mathbf{b}=0$，即 $b_1-b_3=0$，也就是 $b_1=b_3$。检验：

• $\mathbf{b}=(1,0,1)^{\mathsf T}$：$1-1=0$ ✓ 有解。事实上 $\mathbf{x}=(-1,1,0,0)^{\mathsf T}$ 就是一解。

步骤 8：用 A = CR 复核。

（逐格验算第一行为例：$1\cdot1+2\cdot0=1$，$1\cdot0+2\cdot1=2$，$1\cdot1+2\cdot1=3$，$1\cdot1+2\cdot0=1$。）

【计算机制解说】为什么 $A=CR$ 一定成立？ RREF 的每一列都可以写成”对主元列的系数组合”：RREF 的第 $j$ 列是一个 $r$ 维向量，它记录了”$A$ 的第 $j$ 列 = 主元列按这些系数组合”。把 RREF 里那 $r$ 个非零行记作 $R$，则 $R$ 的第 $j$ 列正是这组系数。于是

对每个 $j=1,\dots,n$ 都成立，所以 $A=CR$。换句话说，$R$ 就是”C(A) 的坐标说明书”：它把 $A$ 的每一列翻译成主元列的坐标。 注意非主元列会被自动还原——这是消元保关系（步骤 1 的洞察）的另一面。

$A=CR$ 还告诉我们一件重要的事：$A$ 的每一列都是 $C$ 的列的线性组合，且系数存在 $R$ 里。 所以 C(A)=C(C)，行空间 = C(R)。

示例三：3×3 秩 2 —— 只做左零空间与”解的通式”

取 \(A_3=\begin{bmatrix}1&2&1\\2&4&3\\3&6&5\end{bmatrix}.\)

消元：$r_2\leftarrow r_2-2r_1$，$r_3\leftarrow r_3-3r_1$：

主元在第 1、3 列，$r=2$。于是：

• 行空间：$\operatorname{span}\{(1,2,0),(0,0,1)\}$，$\dim=2$。
• 列空间：原矩阵第 1、3 列，$\operatorname{span}\{(1,2,3)^{\mathsf T},(1,3,5)^{\mathsf T}\}$，$\dim=2$。
• 零空间：自由变量 $x_2$，$x_2=1\Rightarrow x_1=-2,x_3=0$，基 $(-2,1,0)^{\mathsf T}$，$\dim=1=n-r$。
• 左零空间：$A_3^{\mathsf T}\mathbf{y}=\mathbf{0}$ 即 $\begin{bmatrix}1&2&3\\2&4&6\\1&3&5\end{bmatrix}\mathbf{y}=\mathbf{0}$，解得 $\mathbf{y}=(1,-2,1)^{\mathsf T}$（验算：$1-4+3=0$，$2-8+6=0$，$1-6+5=0$ ✓），$\dim=1=m-r$。
• 正交验证：$(1,2,0)\cdot(-2,1,0)=-2+2=0$ ✓；$(0,0,1)\cdot(-2,1,0)=0$ ✓；$(1,2,3)\cdot(1,-2,1)=1-4+3=0$ ✓；$(1,3,5)\cdot(1,-2,1)=1-6+5=0$ ✓。

解的通式：对 $\mathbf{b}\in C(A_3)$，$\mathbf{x}=\mathbf{x}_p+t\,(-2,1,0)^{\mathsf T}$。这条直线就是”一个特解 + 整个零空间”，几何上是一条不过原点的直线。

示例四：2×2 矩阵的四种”秩情形”全家族（边界情形必须掌握）

小矩阵最容易暴露理解漏洞。下面把 $2\times2$ 的所有秩情形排成一张表，因为 $m=n=2$ 时四个维数是 $(r,r,2-r,2-r)$，只有三种可能。

情形 A：$r=2$（可逆），取 $A=\begin{bmatrix}1&2\\3&4\end{bmatrix}$。

消元：$r_2\leftarrow r_2-3r_1$ 得 $\begin{bmatrix}1&2\\0&-2\end{bmatrix}$，两列都有主元，$r=2$。于是：

• C(A) = $\mathbb{R}^2$（两列 $(1,3),(2,4)$ 独立，张开整个平面），$\dim=2$。
• C(Aᵀ) = $\mathbb{R}^2$，$\dim=2$。
• N(A) = $\{\mathbf{0}\}$，$\dim=0=2-r$。因为 $A$ 可逆，唯一解是 $\mathbf{x}=\mathbf{0}$。
• N(Aᵀ) = $\{\mathbf{0}\}$，$\dim=0$。
• 配平：$2+0=2=n$ ✓，$2+0=2=m$ ✓。
• 几何：$A$ 把整个平面一对一映射到整个平面，什么都不压扁。$A\mathbf{x}=\mathbf{b}$ 对每个 $\mathbf{b}$ 都有唯一解。

情形 B：$r=1$（奇异但非零），取 $A=\begin{bmatrix}1&2\\2&4\end{bmatrix}$。

第二列是第一列的 2 倍，$r=1$。RREF 为 $\begin{bmatrix}1&2\\0&0\end{bmatrix}$。于是：

• C(A) = $\operatorname{span}\{(1,2)^{\mathsf T}\}$——$\mathbb{R}^2$ 中过原点的一条直线，$\dim=1$。$A$ 把整个平面压到这条线上。
• C(Aᵀ) = $\operatorname{span}\{(1,2)\}$（行空间也是一条直线，只是住在”输入平面”里），$\dim=1$。
• N(A)：解 $x_1+2x_2=0$，即 $x_1=-2x_2$，基 $(-2,1)^{\mathsf T}$，$\dim=1=n-r$。
• N(Aᵀ)：解 $y_1+2y_2=0$，基 $(-2,1)^{\mathsf T}$，$\dim=1=m-r$。
• 验证正交：$(1,2)\cdot(-2,1)=-2+2=0$ ✓（两处都对）
• 几何：$A$ 把平面压成一条线（核是一条线），同时把另一条线（零空间方向）压成原点。二维进、一维出——必然有一维信息被丢失，被丢的那一维正是零空间。
• 可解性：只有 $\mathbf{b}=t(1,2)^{\mathsf T}$ 有解；例如 $\mathbf{b}=(1,2)$ 有解（$\mathbf{x}=(1,0)$），$\mathbf{b}=(1,0)$ 无解。

情形 C：$r=0$，取 $A=\begin{bmatrix}0&0\\0&0\end{bmatrix}$（零矩阵）。

• C(A) = $\{\mathbf{0}\}$，$\dim=0$；C(Aᵀ) = $\{\mathbf{0}\}$，$\dim=0$。
• N(A) = $\mathbb{R}^2$（每个向量都被压成零），$\dim=2$；N(Aᵀ) = $\mathbb{R}^2$，$\dim=2$。
• 配平：$0+2=2=n$ ✓，$0+2=2=m$ ✓。
• 几何：$A$ 把一切压成原点。”列空间是零维”并不矛盾——零子空间 $\{\mathbf{0}\}$ 本身是每个空间中唯一 0 维的子空间，它是所有子空间里最小的那个。

情形 D：$r=1$ 的”坐标投影”，取 $A=\begin{bmatrix}1&0\\0&0\end{bmatrix}$（这是投影到 $x$ 轴的矩阵）。

• C(A) = $\operatorname{span}\{(1,0)^{\mathsf T}\}$（$x$ 轴），$\dim=1$。
• N(A)：解 $x_1=0$，即 $\mathbf{x}=(0,x_2)$，基 $(0,1)^{\mathsf T}$（$y$ 轴），$\dim=1$。
• C(Aᵀ) = $\operatorname{span}\{(1,0)\}$，N(Aᵀ) = $\operatorname{span}\{(0,1)\}$。
• 几何：这是四个子空间”最直观”的例子——行空间是 $x$ 轴、零空间是 $y$ 轴，它们在平面里垂直并把平面切成两半；列空间是 $x$ 轴、左零空间是 $y$ 轴。正交分解 $\mathbb{R}^2=\text{行空间}\oplus\text{零空间}$ 在这里就是”$x$ 轴 $\oplus$ $y$ 轴 = 整个平面”，肉眼可见。

   2x2 情形汇总 (m = n = 2)

   rank r | C(A)      C(A^T)    N(A)     N(A^T)   | r+(n-r)=n  r+(m-r)=m
   -------+---------------------------------------+---------------------
      2   | R^2       R^2       {0}      {0}      | 2+0=2      2+0=2
      1   | 线        线        线       线       | 1+1=2      1+1=2
      0   | {0}       {0}       R^2      R^2      | 0+2=2      0+2=2

   注意 r=1 时四个维数全为 1 —— 最容易记错的一行:
   它是 (1, 1, 2-1, 2-1) = (1, 1, 1, 1).

【计算机制解说】为什么”秩 = 维数丢失量”？ 从变换的角度看：$A:\mathbb{R}^n\to\mathbb{R}^m$，输入有 $n$ 个自由度。经过 $A$ 之后：

• 有 $n-r$ 个方向被压成零（零空间），即损失 $n-r$ 维；
• 剩下 $r$ 个方向被一对一地映过去（这是四个子空间大图里”1-to-1”那半的说法）；
• 于是输出端的像有 $r$ 维，即 $\dim C(A)=r$。

这就是线性代数里的”秩–零化度定理”（rank–nullity theorem）：

记住它是关于输入空间 $\mathbb{R}^n$ 的守恒律，而不是关于输出的。类似地，对转置矩阵 $A^{\mathsf T}:\mathbb{R}^m\to\mathbb{R}^n$ 用同一个定理，得到 $r+(m-r)=m$——这就是右边方块那半的来历。

矩阵分解的核心思想

本讲的核心分解是

• 形式：$C$ 是 $m\times r$（$A$ 的主元列），$R$ 是 $r\times n$（$\text{RREF}(A)$ 的非零行）。
• 含义：这是”$A$ 的秩是 $r$“这句话最经济、最无冗余的表达。$A$ 一般有 $mn$ 个数字，但它其实只由 $C$ 和 $R$ 决定，即 $mr+rn$ 个数字。$A=CR$ 是 $A$ 的”瘦身版”。
• 揭示的结构性质：
  • C(A) = C(C)（列空间只由 $C$ 决定），C(Aᵀ) = C(R)（行空间只由 $R$ 决定）。四个子空间全部由 $C,R$ 承载。
  • 它是 $A=\sum_{i=1}^{r}(\text{col})\,(\text{row})$ 的矩阵化写法：把 $C$ 按列拆、$R$ 按行拆， \(A=\sum_{i=1}^{r}\mathbf{c}_i\,\mathbf{r}_i^{\mathsf T},\) 右边每一项都是秩 1 矩阵。于是 $A=CR$ 说的就是”秩 $r$ 的矩阵 = $r$ 个秩 1 矩阵之和“。这正是下一讲（Lecture 11）与 SVD（Lecture 29）的接口。
• 应用价值：$A=CR$ 是”压缩存储”的原型（只存 $mr+rn$ 而非 $mn$），也是理解 $A^{\mathsf T}A$、伪逆、SVD 的第一块基石。SVD 做的事情就是：在 $A=CR$ 的基础上，把 $C$ 与 $R$ 换成互相正交的 $U$ 与 $V^{\mathsf T}$，并让系数变成按重要性排序的奇异值 $\sigma_i$。

本讲与其他分解的关系可以画成一条线索：

   A = LU              A = CR              A = U S V^T
   (消元, L5-6)   ->   (秩 r 的骨架, L10)  ->  (正交骨架, L29)
   记录行操作            记录"哪些列独立"        两个骨架都换成正交基

此外，本讲的四个子空间正是 Fredholm 二择一（Fredholm alternative）的内容：对任意 $\mathbf{b}$，要么 $A\mathbf{x}=\mathbf{b}$ 有解（$\mathbf{b}\in C(A)$），要么存在 $\mathbf{y}\in N(A^{\mathsf T})$ 使 $\mathbf{y}^{\mathsf T}\mathbf{b}\neq0$ 从而无解——二者必居其一，不可能同时成立，也不可能同时不成立。这正是”$\mathbb{R}^m=C(A)\oplus N(A^{\mathsf T})$”的直接推论。

与其他讲次的关联

• 与 Lecture 8–9（子空间定义、列空间与零空间初见）：本讲把零散的”某个子空间”升级为四个子空间的完整系统，并补上维数定理。
• 与 Lecture 5–6（$A=LU$）：消元既给出 $A=LU$（保留行操作），也给出本讲的 $A=CR$（保留列信息）与四个子空间的基。消元是这两条线的共同源头。
• 与 Lecture 11（矩阵空间 / $A=CR$ / 小世界图）：$A=CR$ 的”$r$ 个秩 1 矩阵之和”将在下一讲展开；图的关联矩阵则给出一类非常具体的四子空间实例。
• 与 Lecture 12（图与网络）：图的关联矩阵 $B$ 的零空间就是”环”（loops），左零空间就是”连通性”，本讲的维数定理在那里第一次被”读懂”。
• 与 Lecture 14–17（正交、投影、最小二乘、QR）：正交关系 $C(A^{\mathsf T})\perp N(A)$ 立刻升级为投影公式 $P=A(A^{\mathsf T}A)^{-1}A^{\mathsf T}$，投影到 C(A) 上；当 $\mathbf{b}\notin C(A)$ 时就得到最小二乘。
• 与 Lecture 18–20（行列式）：$A$ 可逆 $\iff$ $r=n=m$ $\iff$ 四个子空间中 C(A)=$\mathbb{R}^m$、N(A)=$\{\mathbf{0}\}$、C(Aᵀ)=$\mathbb{R}^n$、N(Aᵀ)=$\{\mathbf{0}\}$ $\iff$ $\det A\neq0$。
• 与 Lecture 29（SVD）：$A=CR$ 与四个子空间是 SVD 的”预告片”：SVD 给出 C(A) 与 C(Aᵀ) 的正交基，并要求 $\dim C(A)=\dim C(A^{\mathsf T})=r$——正是本讲的维数定理。
• 与 Lecture 30–33（线性变换、伪逆）：四个子空间为”无坐标视角”提供了坐标分解 $\mathbb{R}^n=C(A^{\mathsf T})\oplus N(A)$，左逆/右逆/伪逆 $A^+$ 的存在性完全由四个维数决定。

关键要点

1. 维数定理（必背）：对 $m\times n$、秩 $r$ 的 $A$， \(\dim C(A)=r,\quad \dim C(A^{\mathsf T})=r,\quad \dim N(A)=n-r,\quad \dim N(A^{\mathsf T})=m-r.\) 配平式：$r+(n-r)=n$，$r+(m-r)=m$。行秩 = 列秩 = $r$，消元后 $U$（或 RREF）的非零行数一刀切给出。

2. 正交关系（必背）： \(N(A)=C(A^{\mathsf T})^{\perp}\subset\mathbb{R}^n,\qquad N(A^{\mathsf T})=C(A)^{\perp}\subset\mathbb{R}^m.\) 即 $\mathbb{R}^n=C(A^{\mathsf T})\oplus N(A)$，$\mathbb{R}^m=C(A)\oplus N(A^{\mathsf T})$。证明一句话：$A\mathbf{x}=\mathbf{0}$ $\iff$ $\mathbf{x}$ 与 $A$ 的每一行内积为 0 $\iff$ $\mathbf{x}\perp C(A^{\mathsf T})$。

3. 求基的正确姿势：行空间用 RREF 的非零行；零空间用 RREF 解方程；列空间用原矩阵的主元列（不是 RREF 的列！）；左零空间对 $A^{\mathsf T}$ 重复行/零空间两步。

4. $A\mathbf{x}=\mathbf{b}$ 的统一解释：存在性看 C(A)（$\mathbf{b}\in C(A)$，等价于对所有 $\mathbf{y}\in N(A^{\mathsf T})$ 有 $\mathbf{y}^{\mathsf T}\mathbf{b}=0$）；自由度看 N(A)（解集 $=\mathbf{x}_p+N(A)$，有 $n-r$ 个自由参数，$r=n$ 时唯一）。

5. $A=CR$：$C$ = 主元列（$m\times r$），$R$ = RREF 非零行（$r\times n$），$A=CR$ 严格成立，且 $A=\sum_{i=1}^{r}\mathbf{c}_i\mathbf{r}_i^{\mathsf T}$ 是”$r$ 个秩 1 矩阵之和”。

常见误区与注意事项

1. 把行空间放进 $\mathbb{R}^m$。行空间 C(Aᵀ) 与零空间 N(A) 都住在 $\mathbb{R}^n$（输入空间）；列空间 C(A) 与左零空间 N(Aᵀ) 都住在 $\mathbb{R}^m$（输出空间）。口诀：“行和零同住 $\mathbb{R}^n$，列和左零同住 $\mathbb{R}^m$。”

2. 拿 RREF 的列当 C(A) 的基。行操作不保持列空间，只保持”列之间的线性关系”。$A_1$ 的列空间是 $\operatorname{span}\{(1,2,1)\}$，RREF 的列空间是 $\operatorname{span}\{(1,0,0)\}$，二者不同。必须回到原矩阵取主元列。

3. 把 $n-r$ 和 $m-r$ 搞反。记住零空间维数由列数决定：N(A) 里的向量长度是 $n$；左零空间维数由行数决定：N(Aᵀ) 里的向量长度是 $m$。检验法：算出的基向量长度必须与所属空间维数一致。

4. 以为”零空间维数 = 矩阵的秩的补”是 $m-r$。例如 $A_2$（3×4，$r=2$）中 $\dim N(A_2)=4-2=2$（不是 $3-2=1$），而 $\dim N(A_2^{\mathsf T})=3-2=1$。用 $r+(n-r)=n$ 自检。

5. 误以为四个子空间维数相同或都非零。$r=0$（零矩阵）时四个子空间是：$C(A)=\{\mathbf{0}\}$、$C(A^{\mathsf T})=\{\mathbf{0}\}$、$N(A)=\mathbb{R}^n$、$N(A^{\mathsf T})=\mathbb{R}^m$。$r=n=m$（可逆）时两个零空间都只有 $\{\mathbf{0}\}$，而两个空间是满的。“空”与”满”都是合法情形。

6. 忘记”正交”是双向的。$C(A^{\mathsf T})\perp N(A)$ 对每一个行向量与每一个零空间向量都成立，不是”存在某对垂直”。写作内积时必须逐个检验（就像示例一、二那样），不能只验一对。

思考题（带答案）

Q1.（纯计算） 设 $A$ 是一个 $5\times 7$ 矩阵，已知 $\operatorname{rank}(A)=3$。求四个基本子空间的维数，并说出每个子空间的向量有几个分量。若 $\mathbf{b}\in\mathbb{R}^5$ 使 $A\mathbf{x}=\mathbf{b}$ 有解，解集有多少个自由参数？

Q2.（概念） 下面的说法对不对？逐条判断并说明理由。 (a) 若 $A$ 是 4×6 矩阵且 $A\mathbf{x}=\mathbf{b}$ 对每个 $\mathbf{b}\in\mathbb{R}^4$ 都有解，则 $\dim N(A)=2$。 (b) 行空间与零空间可以”拼”满整个 $\mathbb{R}^n$，但它们有公共非零向量。 (c) 若 $\mathbf{y}\in N(A^{\mathsf T})$，则 $\mathbf{y}$ 与 $A$ 的每一列都正交。

Q3.（综合计算） 设 $\mathbf{u}=(2,1,2)^{\mathsf T}$，$\mathbf{v}=(1,3)^{\mathsf T}$，$A=\mathbf{u}\mathbf{v}^{\mathsf T}$（3×2）。写出 $A$，求四个子空间的基与维数，并验证正交性；再回答：对哪些 $\mathbf{b}\in\mathbb{R}^3$ 有解？