Lecture 5: Transposes, Permutations, Spaces R^n

目录 · ← l4 · l6 →

Lecture 5: Transposes, Permutations, Spaces R^n

概述

本讲是课程的转折点：从”矩阵的计算”转向”向量的空间”。前四讲我们一直在做消元、求逆，处理的都是 $\mathbb R^n$ 内部的运算；本讲第一次正式引入子空间（subspace）这个概念，它是讲次 6-10 的统一语言，也是整个 18.06 后半程的骨架。

本讲由三块组成，表面松散、实则一体：(1) 转置 $A^{\mathsf T}$ 与对称矩阵 $S=S^{\mathsf T}$——$A^{\mathsf T}A$ 永远对称，这也是最小二乘的关键；(2) 置换矩阵 $P$——$P^{-1}=P^{\mathsf T}$，是正交矩阵家族的第一个成员，把 $PA=LU$ 补齐；(3) $\mathbb R^n$ 的子空间——定义、判定、以及 $\mathbb R^2/\mathbb R^3$ 的完整分类。

一句话主线：转置是”对偶”操作，置换是”正交”操作，子空间是”所有线性组合的容器”。

核心概念的几何直觉

转置（transpose）$A^{\mathsf T}$

• 定义与目的：$A$ 是 $m\times n$，则 $A^{\mathsf T}$ 是 $n\times m$，且 $(A^{\mathsf T}){ij}=A{ji}$——行列互换。转置的目的：把”作用于 $\mathbb R^n$ 的映射”翻成”作用于 $\mathbb R^m$ 的映射”，使它与内积配对。

• 几何直觉（它在空间中是什么样子？）：转置是线性映射的对偶/伴随（adjoint）。它的本质刻画是内积恒等式

  \[\langle A\mathbf x,\ \mathbf y\rangle=\langle \mathbf x,\ A^{\mathsf T}\mathbf y\rangle\qquad\text{对所有 }\mathbf x\in\mathbb R^n,\ \mathbf y\in\mathbb R^m.\]

  也就是说：把 $A$ 从内积的左边搬到右边，就变成 $A^{\mathsf T}$。 如果用矩阵语言写，这就是 $(A\mathbf x)^{\mathsf T}\mathbf y=\mathbf x^{\mathsf T}(A^{\mathsf T}\mathbf y)$。这个视角在讲次 10（$N(A^{\mathsf T})$ 垂直于 $C(A)$）和讲次 16（正规方程）里是决定性的。

• 具体示例：见下方示例一。

对称矩阵（symmetric matrix）$S=S^{\mathsf T}$

• 定义与目的：方阵且 $S_{ij}=S_{ji}$。转置下不变。
• 几何直觉：对称矩阵是自伴的，它没有”扭曲”（旋转）。它可以把空间沿着一组互相正交的方向纯拉伸。因此它的特征值必为实数，特征向量必可选为互相垂直——这是谱定理（讲次 25），本讲只预告。几何上你可能遇到的对称矩阵：协方差矩阵、图 Laplacian、惯性张量、$A^{\mathsf T}A$。
• 具体示例：$A^{\mathsf T}A$ 永远对称（下方演示二）。

对称矩阵的几何图景：为什么”没有旋转”

对称矩阵最值得记住的几何事实是下面这条预言（讲次 25 会证明）：

$S=S^{\mathsf T}$ 的特征值全是实数；特征向量可以选成两两正交。

用一个 2×2 例子先直观感受。取 $S=\begin{bmatrix}2&1\\1&2\end{bmatrix}$：

• $\operatorname{tr}S=4$，$\det S=2\cdot2-1\cdot1=3$。特征值满足 $\lambda^2-4\lambda+3=0$，即 $\lambda=3,1$——都是实数。
• $\lambda=3$ 的特征向量：$(S-3I)\mathbf v=\begin{bmatrix}-1&1\\1&-1\end{bmatrix}\mathbf v=\mathbf 0\Rightarrow \mathbf v_1=(1,1)^{\mathsf T}$。
• $\lambda=1$ 的特征向量：$(S-I)\mathbf v=\begin{bmatrix}1&1\\1&1\end{bmatrix}\mathbf v=\mathbf 0\Rightarrow \mathbf v_2=(1,-1)^{\mathsf T}$。
• $\mathbf v_1\cdot\mathbf v_2=1\cdot1+1\cdot(-1)=0$ ✓ 正交。

对比一个不对称的旋转矩阵 $R=\begin{bmatrix}0&-1\\1&0\end{bmatrix}$（逆时针 90°）：

• $\operatorname{tr}R=0$，$\det R=1$，判别式 $\operatorname{tr}^2-4\det=0-4=-4<0$，所以特征值是 $\lambda=\pm i$——复特征值！几何上完全合理：90° 旋转没有任何实方向保持不变（每个向量都被转走了），所以没有实特征向量。

对称变换 vs 旋转：为什么对称矩阵"看得见"不变方向

  对称 S=[[2,1],[1,2]]                   旋转 R=[[0,-1],[1,0]] (90度)
  特征值 3, 1 (实)                        特征值 +i, -i (复)

        v2=(1,-1)                              |
         \                                     |   /
          \  <- 沿此方向拉伸 x1               |  /
   --------+--------> v1=(1,1)                | /
           |   沿此方向拉伸 x3               |/
           |                          --------+--------
                                              |
  两个正交的"主轴"，S 只沿它们       没有任何实方向被保持
  做纯拉伸，不转动                   （每个向量都被转 90 度）

  这就是谱定理: S = Q Λ Q^T, Q 正交 (Q^T Q = I)
  注意 S 的形式 = Q Λ Q^T 与 SVD 的 A = U Σ V^T 形状相同，
  区别在于对称时 U = V = Q（左右基相同）。

这个图景的重要推论：因为对称矩阵只做”沿正交轴的纯拉伸”，所以它的”大小”完全由特征值决定：$\lambda_{\max}$ 是最大拉伸比，$\lambda_{\min}$ 是最小拉伸比（可为负，表示反向）。这就是为什么二次型 $\mathbf x^{\mathsf T}S\mathbf x$ 的符号完全由特征值的符号决定——讲次 25 的”正定”判据就建立在此。

置换矩阵（permutation matrix）$P$

• 定义与目的：每行每列恰有一个 1，其余全 0 的方阵。$n\times n$ 的置换矩阵共有 $n!$ 个。
• 几何直觉：$P$ 是坐标轴的重排/反射——它不拉伸、不扭曲，只是把坐标轴换个位置（可能是左手变右手的镜像）。因此它保持长度：$\vert P\mathbf x\vert =\vert \mathbf x\vert $，这正是正交矩阵的特征（$P^{\mathsf T}P=I$）。它是正交矩阵里最”离散”的一类：元素只有 0 和 1。
• 具体示例：$n=3$ 共 6 个，见手算演示三。

子空间（subspace）

• 定义与目的：$\mathbb R^n$ 的子集 $S$，满足 (a) 若 $\mathbf v,\mathbf w\in S$ 则 $\mathbf v+\mathbf w\in S$；(b) 若 $\mathbf v\in S$、$c\in\mathbb R$ 则 $c\mathbf v\in S$。(a)(b) 等价于一条更简洁的条件：对任意线性组合封闭，即 $c\mathbf v+d\mathbf w\in S$。由 (b) 取 $c=0$ 立刻得到 $\mathbf 0\in S$——子空间必含原点。
• 几何直觉：子空间是”穿过原点的平坦的一片“。$\mathbb R^2$ 里只有三种、$\mathbb R^3$ 里只有四种。判断一个集合是不是子空间，只需问三件事：过原点吗？两个向量加起来还在里面吗？乘个常数还在里面吗？
• 具体示例：$\mathbb R^2$ 的完整分类与反例见下方 ASCII 图与演示四。

计算步骤与手算演示

示例一：转置三条性质的逐条验算

取

性质 1：$(A^{\mathsf T})^{\mathsf T}=A$。

性质 2：$(A+B)^{\mathsf T}=A^{\mathsf T}+B^{\mathsf T}$。

性质 3：$(AB)^{\mathsf T}=B^{\mathsf T}A^{\mathsf T}$（注意顺序反转！） 取

另一方面

【计算机制解说】：三条性质全部来自”下标互换”这一个动作。以性质 3 为例：设 $A$ 是 $m\times n$、$B$ 是 $n\times p$，则 $AB$ 是 $m\times p$，$(AB)^{\mathsf T}$ 是 $p\times m$。逐元素：

顺序为什么必须反转：维度已经强制了答案。$B^{\mathsf T}A^{\mathsf T}$ 是 $(p\times n)(n\times m)=p\times m$，恰好匹配 $(AB)^{\mathsf T}$；而 $A^{\mathsf T}B^{\mathsf T}$ 是 $(n\times m)(p\times n)$，连乘法都做不了（除非 $m=p$，那时形状也不对）。所以”转置要反序”不是记忆规则，而是维度的必然。几何上：$(AB)^{\mathsf T}$ 表示”先 $B$ 后 $A$ 再取伴随” = “先取 $A$ 的伴随、再取 $B$ 的伴随”，伴随操作把顺序颠倒，就像穿脱衣服。

性质 4（几何核心）：$\langle A\mathbf x,\mathbf y\rangle=\langle\mathbf x,A^{\mathsf T}\mathbf y\rangle$ 的数值验证

这条恒等式是转置的”定义性刻画”。取

先算左边。 $A\mathbf x$：

再算右边。 $A^{\mathsf T}=\begin{bmatrix}1&3&0\\2&1&2\\0&1&4\end{bmatrix}$，则

两个数都是 14。

【计算机制解说】：为什么必然相等？从”求和指标可以换顺序”就能看出。左边

右边

两个双重和式逐项相同，只是求和次序不同（有限和可以任意交换次序），所以恒等。这也解释了转置为什么是”指标的交换”：$A$ 作用在 $\mathbf x$ 上时指标 $i$ 在外、$j$ 在内；要让 $\mathbf y$ 接住 $A$，就必须把指标 $i,j$ 的角色对调，而对调指标的方式正是转置。

这条恒等式的用处：它让你可以在内积中”移动”矩阵。例如证明 $N(A)$ 与 $C(A^{\mathsf T})$ 正交时：若 $A\mathbf x=\mathbf 0$，则对任意 $\mathbf z$ 有

即 $\mathbf x$ 与 $C(A^{\mathsf T})$ 中每个向量都正交——一行推导就得到”零空间 ⊥ 行空间”。这正是讲次 10 四条正交关系的证明模板。类似的，最小二乘的正规方程 $A^{\mathsf T}A\hat{\mathbf x}=A^{\mathsf T}\mathbf b$ 也是这条恒等式在”残差垂直于列空间”条件下的产物。

示例二：$A^{\mathsf T}A$ 必对称（两种证明 + 数值）

取

两个都是对称的（$M^{\mathsf T}M$ 关于主对角线镜像相等：$2=2,\ 3=3,\ 10=10$；$MM^{\mathsf T}$ 的 $14=14$）。

证明 A（维度/代数法）：由性质 $(XY)^{\mathsf T}=Y^{\mathsf T}X^{\mathsf T}$ 与 $(A^{\mathsf T})^{\mathsf T}=A$，

一个矩阵等于自己的转置就是对称。证毕。（注意这个论证同样适用于 $AA^{\mathsf T}$、$A^{\mathsf T}A$ 的任意多项式。）

证明 B（元素法，更有信息量）：设 $A$ 是 $m\times n$，$A^{\mathsf T}A$ 是 $n\times n$。把 $A$ 的列记为 $\mathbf a_1,\dots,\mathbf a_n\in\mathbb R^m$。则

交换 $i,j$ 得 $(A^{\mathsf T}A)_{ji}=\mathbf a_j\cdot\mathbf a_i=\mathbf a_i\cdot\mathbf a_j$（内积对称），故相等。证毕。

【计算机制解说】：证明 B 揭示了 $A^{\mathsf T}A$ 的真正含义：它是一个”列与列之间夹角/相似度的记账表“。对角元 $\mathbf a_i\cdot\mathbf a_i=\vert \mathbf a_i\vert ^2$ 是每列的长度的平方，非对角元 $\mathbf a_i\cdot\mathbf a_j$ 是两列的内积。这就是为什么 $A^{\mathsf T}A$ 出现在最小二乘的正规方程里——它在度量”残差与各列是否垂直”。也解释了 Gram 矩阵（Gram matrix）的名字。另外：$A^{\mathsf T}A$ 的对角元全为正（除非该列为零向量）。如果 $A$ 的列线性无关，则 $A^{\mathsf T}A$ 还可进一步保证正定（讲次 25），从而 $A^{\mathsf T}A$ 可逆、最小二乘解唯一。这是”$A^{\mathsf T}A$ 对称”这条简单事实的深远后果。

示例三：$n=3$ 的全部 6 个置换矩阵与 $P^{\mathsf T}P=I$

6 个 3x3 置换矩阵（每个的每一行、每一列恰有一个 1）

P1 = [1 0 0]   P2 = [1 0 0]   P3 = [0 1 0]
     [0 1 0]        [0 0 1]        [1 0 0]
     [0 0 1]        [0 1 0]        [0 0 1]
     恒等            交换 2,3        交换 1,2

P4 = [0 1 0]   P5 = [0 0 1]   P6 = [0 0 1]
     [0 0 1]        [1 0 0]        [0 1 0]
     [1 0 0]        [0 1 0]        [1 0 0]
     循环 1->2->3    循环 1->3->2    交换 1,3
     （反序）                        （=P4^2）

             3! = 6 个，与排列数一致

验证 $P^{\mathsf T}P=I$（以 $P_6$ 为例，即交换第 1、3 行/列者）：

所以 $P_6^{\mathsf T}=P_6^{-1}$。一般地，$P$ 的每一列都是标准基向量 $\mathbf e_{\sigma(i)}$，两两正交且长度为 1，因此 $P^{\mathsf T}P=I$ 逐元素成立：$(P^{\mathsf T}P){ij}=(\text{$P$ 的第 }i\text{ 列})\cdot(\text{$P$ 的第 }j\text{ 列})=\delta{ij}$。

$P$ 的乘法作用（取 $X=\begin{bmatrix}1&2\\3&4\\5&6\end{bmatrix}$，用 $P_{13}=\begin{bmatrix}0&0&1\\0&1&0\\1&0&0\end{bmatrix}$）：

三行被上下翻转了。

【计算机制解说】：记住”左乘换行、右乘换列“。$PA$ 是重排 $A$ 的行（$P$ 的第 $i$ 行在第 $j$ 列为 1，就把 $A$ 的第 $j$ 行搬到第 $i$ 行）；$AP$ 是重排 $A$ 的列。为什么？$P$ 的每一行是某个 $\mathbf e_j^{\mathsf T}$，而 $\mathbf e_j^{\mathsf T}A$ 恰好”挑出 $A$ 的第 $j$ 行”，所以 $P$ 的每一行就是从 $A$ 里挑一行放到对应位置——置换矩阵是把”选择”写成矩阵。这在讲次 4 的 $PA=LU$ 里就是”把最大的主元挑到对角线上”。此外 $\det P=\pm1$：偶置换（需要偶数次交换）为 $+1$，奇置换为 $-1$。$P_6$（交换 1、3）需要 1 次交换，所以 $\det P_6=-1$；$P_1=I$ 需要 0 次，$\det P_1=+1$。这会在讲次 18-20 与”体积的定向”接上。

示例四：子空间的判定——过原点的直线 vs 不过原点的直线

R^2 的子空间完整分类（只有这三种！）

 (1) S = {0}            (2) S = 过原点的整条直线     (3) S = 整个 R^2

      y                      y                          y
      |                      |   /                      |    /
      |                      |  /                       |   /
 -----+----- x          -----+----- x              -----+----- x
      |    *                 | /                        |  /
      |                      |/                         | /
   只有一个点              过原点！                    整个平面
   过原点 ✓               加/乘封闭 ✓                 加/乘封闭 ✓

 反例：不过原点的直线 y = x + 1 —— 不是子空间！

      y
      |    /            (0,1)+(1,2) = (1,3)
      |   /  (1,2)      但 (1,3) 不在直线上 -> 加法不封闭 ✗
      |  /
 -----+--/---- x       2*(0,1) = (0,2) 不在直线上 -> 数乘不封闭 ✗
      | /               (0,0) 不在直线上 -> 根本不过原点 ✗
      |/
   不过原点 ✗

取 $S=\{c(1,1)^{\mathsf T}:c\in\mathbb R\}$（直线 $y=x$）。检验三条：

1. 含原点：$c=0$ 给出 $(0,0)$ ✓
2. 加法：$c_1(1,1)+c_2(1,1)=(c_1+c_2)(1,1)\in S$ ✓
3. 数乘：$k\cdot c(1,1)=(kc)(1,1)\in S$ ✓

故 $S$ 是子空间。现在取 $T=\{(x,x+1)^{\mathsf T}\}$（直线 $y=x+1$）：

1. 含原点吗？ $(0,0)$ 要求 $0=0+1$，假。已经可以判定不是子空间。 ✗
2. 加法：$(0,1),(1,2)$ 都在 $T$ 中，但 $(0,1)+(1,2)=(1,3)$，而 $3\neq 1+1=2$，不在 $T$ 中 ✗
3. 数乘：$2(0,1)=(0,2)$，而 $2\neq 0+1=1$，不在 $T$ 中 ✗

三条全失败。

【计算机制解说】：为什么”过原点”这么关键？因为子空间的定义要求对任意线性组合封闭，而”什么都不取”（系数全 0）得到的就是零向量。所以零向量是每个子空间的必含成员——这是最快的筛查工具。几何上，一个不经过原点的仿射集合（affine set）像一条”悬浮”的线或面：它在”内部”是平的，但没法穿过原点，所以对加法不封闭。线性代数的整个体系建立在”原点固定不动”上：线性映射必须满足 $A\mathbf 0=\mathbf 0$，所以它的像与核都自动是子空间。反过来，如果有人给你一个集合，先查零向量，一票否决。

$\mathbb R^3$ 的子空间完整分类

$\mathbb R^2$ 只有三类，$\mathbb R^3$ 只有四类，一个不多、一个不少：

R^3 的子空间完整分类（维度 dim = 0,1,2,3）

 dim 0                dim 1                    dim 2                 dim 3
 {0} (原点)           过原点的直线              过原点的平面            整个 R^3

     z                    z                          z                     z
     |                    |     /                    |    /|               |
     |                    |    /                     |   / |               |
     |                    |   /                      |  /  |               |
     *---- y              *------ y                  *----- y              *------ y
    /                    /                          /                     /
   x                    x                          x                     x

  只是一个点           一维: 一个方向             二维: 两个独立方向       三维: 三个独立方向
   basis: 无           basis: 1 个向量            basis: 2 个向量         basis: 3 个向量
   (span of nothing)   span{v1}                   span{v1,v2}            span{v1,v2,v3}

 典型来源:            典型来源:                  典型来源:
 N(A) 当 rank=n        N(A) 当 rank=n-1          N(A) 当 rank=n-2       N(A) 当 A 可逆
                                                 C(A) 当 rank=2

 子空间的"嵌套"关系（每个低维的都可以嵌在高的里面）:
      {0}  ⊂  直线  ⊂  平面  ⊂  R^3
      任何子空间的交集还是子空间（但并集一般不是！见误区 6）

每个分类的实例与验证：

具体到”过原点平面”：$C(B)=\{(x_1,x_2,x_1+x_2)^{\mathsf T}\}$（示例五的 $B$）就是 $\mathbb R^3$ 中法向量为 $(1,1,-1)$ 的过原点平面。验证封闭性任取两组系数：$(3\mathbf b_1+2\mathbf b_2)+(-\mathbf b_1+5\mathbf b_2)=2\mathbf b_1+7\mathbf b_2=(2,7,9)^{\mathsf T}$——仍是组合，仍在平面内（$9=2+7$ ✓）。而 $\mathbb R^3$ 中不存在 dim$=2$ 的”曲面”型子空间：任何二维子空间都必须是平面。这是”子空间 = 平坦 + 过原点”的直接后果。

【计算机制解说】：为什么 $\mathbb R^3$ 里恰好只有这四种？因为子空间必须”平坦且过原点”，而 $\mathbb R^3$ 的”平坦过原点形状”只能是：一个点（0 维）、一条线（1 维）、一个面（2 维）、整个空间（3 维）。没有第四个选项——你不能用”弯曲的曲面”当子空间（球面不是子空间：它上面两点相加会跑到外面）。这是线性代数的边界：只允许直线、平面、以及它们的高维推广（flat）。另一个视角：子空间 $S$ 的维数 = 基中向量的个数 = “要几个独立方向才能把 $S$ 走遍”。维数一旦定了，形状也就定了（同为过原点的 2 维子空间，$\mathbb R^3$ 中互相之间只差一个旋转）。

判定子空间的”三步操作法”

拿到一个集合，按下面的清单机械地走一遍，就能得到确定答案：

子空间判定流程（对集合 S ⊆ R^n）

  Step 0: S 非空吗？(等价: 0 ∈ S 吗？)
          |
          +-- 否 --> 不是子空间，结束（最常见的否决理由）
          |
          +-- 是 --> 继续
  Step 1: 加法封闭？ 任取 v,w ∈ S  (用一般符号，不要只试一组数)
          |           验证 v+w ∈ S 是否恒成立
          +-- 否 --> 不是子空间
          |
          +-- 是 --> 继续
  Step 2: 数乘封闭？ 任取 v ∈ S, c ∈ R
          |           验证 cv ∈ S 是否恒成立
          +-- 否 --> 不是子空间
          |
          +-- 是 --> 是子空间 ✓

  【加速技巧】若 S 能写成 {所有线性组合} 或 {Ax = 0 的解},
              则 Step 1,2 可以一次性通过——见示例五的结构性论证。

  【陷阱】验证时只代一组具体数字不足以证明（必须用一般符号）；
          但要否定只需一组反例（如 Step 0 的零向量最省力）。

用这个流程快速扫一遍几个候选集合：

注意第三个反例很微妙：两条坐标轴的并集不是子空间（加法失败），而它们的交集 $\{\mathbf 0\}$ 是子空间。这印证一条一般原则：子空间的交集仍是子空间，但并集一般不是——因为并集迫使两个不同方向”相加”，而和向量通常落在两者之外。

示例五：矩阵的列空间与零空间都是子空间

列空间 $C(A)$：取

$C(B)=\{\mathbf b_1,\mathbf b_2$ 的所有线性组合$\}$。例如 $3\mathbf b_1+2\mathbf b_2=(3,2,5)^{\mathsf T}$，注意 $5=3+2$，即 $x_3=x_1+x_2$——这正是 $\mathbb R^3$ 中一个过原点的平面。

为什么它自动是子空间？（这是本讲的”结构性”论证）设 $\mathbf v,\mathbf w\in C(B)$，则存在 $\mathbf x,\mathbf y$ 使 $\mathbf v=B\mathbf x$、$\mathbf w=B\mathbf y$。于是

并且 $\mathbf 0=B\mathbf 0\in C(B)$。证毕，而且这个论证只用到了矩阵乘法的分配律与结合律——它适用于任何矩阵，说明”列张成的集合”必定是子空间。

零空间 $N(A)$：取

$A\mathbf x=\mathbf 0$ 给出 $x_1+2x_2=0$，即 $\mathbf x=c(2,-1)^{\mathsf T}$。核对：$A(2,-1)^{\mathsf T}=(2-2,\ 4-4)^{\mathsf T}=(0,0)^{\mathsf T}$ ✓；$A(4,-2)^{\mathsf T}=(0,0)^{\mathsf T}$ ✓；求和 $(2,-1)+(4,-2)=(6,-3)$，$A(6,-3)^{\mathsf T}=(6-6,\ 12-12)^{\mathsf T}=\mathbf 0$ ✓。

所以 $N(A)=\{c(2,-1)^{\mathsf T}\}$，是 $\mathbb R^2$ 中一条过原点的直线。

子空间论证：若 $A\mathbf x=\mathbf 0$、$A\mathbf y=\mathbf 0$，则 $A(\mathbf x+\mathbf y)=A\mathbf x+A\mathbf y=\mathbf 0$，$A(c\mathbf x)=cA\mathbf x=\mathbf 0$。证毕。

【计算机制解说】：$A$ 是 $m\times n$ 时，$C(A)$ 住在 $\mathbb R^m$、$N(A)$ 住在 $\mathbb R^n$（维度一定不能搞反）。直观图景：$A$ 是”从 $\mathbb R^n$ 打到 $\mathbb R^m$ 的机器”。$C(A)$ 是这台机器的像素范围（range）——所有能打出来的目标点；$N(A)$ 是被压成 0 的输入——机器看不见的方向。二者都是子空间，因为它们都是”线性组合的容器”。这两个空间加上它们的转置版本 $C(A^{\mathsf T})$、$N(A^{\mathsf T})$ 就是著名的四个基本子空间，是讲次 6-10 的全部舞台。

矩阵分解的核心思想

本讲本身没有引入新的矩阵分解，但它是所有分解的语法基础——三个概念各自支撑一类分解：

1. 转置 ↔ 对偶分解：$A^{\mathsf T}$ 使得”行空间”与”列空间”可以互相转译。$A=LU$ 的对称版本 $A=LDL^{\mathsf T}$（讲次 4）就是靠转置写成对称形式的；更远的 $A=S\Lambda S^{-1}$（讲次 22）在对称时化为 $A=Q\Lambda Q^{\mathsf T}$（讲次 25），而 $A=U\Sigma V^{\mathsf T}$（SVD，讲次 29）里 $U,V$ 的地位正是”$A$ 与 $A^{\mathsf T}$ 各自的奇异向量基”。SVD 的一般形状就是”转置把左边和右边分开”的极致体现。
2. 置换 ↔ $PA=LU$ 与正交分解：$P^{-1}=P^{\mathsf T}$ 是”正交”的最简单模型。$A=QR$（讲次 17）里 $Q^{\mathsf T}Q=I$ 就是把 $P$ 的这条性质推广到”列是任意正交单位向量”；$P$ 是离散版、$Q$ 是连续版。
3. 子空间 ↔ 分解的”舞台”：任何分解 $A=(\text{结构})\times(\text{结构})$ 都在回答同一个问题——$A$ 把哪个子空间送到哪里。$A=LU$ 揭示 $U$ 的零行给出 $N(A)$ 的维数；$A=QR$ 把 $C(A)$ 用正交基重新描述；$A=S\Lambda S^{-1}$ 把 $\mathbb R^n$ 分解成特征方向。没有子空间的语言，后面所有分解都只是符号操作。

一句话总结：转置让”左右”可以互换，置换/正交让”坐标”可以重选，子空间让”往哪儿去”可以精确描述。

预告：四个基本子空间的全景图（讲次 6-10 的舞台）

本讲只建立了”子空间”这个概念，但 Strang 课程真正的主角是下面这四个。提前把地图画出来，后面的每一讲都是在填这张图：

              四个基本子空间（A 是 m x n，秩 r）

                 A : R^n  --->  R^m
                     |            |
   +-----------------+------------+------------------+
   |                 |            |                  |
   |  R^n (输入空间)  |            |  R^m (输出空间)   |
   |                 |            |                  |
   |  +-----------+  |            |  +-----------+   |
   |  | C(A^T)    |  |            |  | C(A)      |   |
   |  | 行空间     |  |            |  | 列空间     |   |
   |  | dim = r   |--+--- A --->--+--| dim = r   |   |
   |  +-----------+  |            |  +-----------+   |
   |  正交            |            |   正交           |
   |  +-----------+  |            |  +-----------+   |
   |  | N(A)      |  |            |  | N(A^T)    |   |
   |  | 零空间     |  |            |  | 左零空间   |   |
   |  | dim = n-r |  |            |  | dim = m-r |   |
   |  +-----------+  |            |  +-----------+   |
   +-----------------+------------+------------------+

  维度记账（最重要的两个公式，务必背下）:
     dim C(A)  = dim C(A^T) = r          (秩)
     dim N(A)  = n - r                   (在 R^n 里!)
     dim N(A^T)= m - r                   (在 R^m 里!)

  正交配对（讲次 10 证明）:
     C(A^T) ⊥ N(A)     两者撑满 R^n
     C(A)   ⊥ N(A^T)   两者撑满 R^m

  本讲已备好的工具:
     - A^T 给出"行空间/左零空间"这两个新子空间（对偶视角）
     - "列张成 = 子空间"证明 C(A) 是子空间（示例五）
     - "Ax=0 解集 = 子空间"证明 N(A) 是子空间（示例五）

注意最容易记错的一条：$\dim N(A)=n-r$ 而不是 $m-r$。原因：$N(A)$ 是”被 $A$ 打成 0 的输入“，输入住在 $\mathbb R^n$，所以公式里必须出现列数 $n$。同理 $\dim N(A^{\mathsf T})=m-r$。这个维度上的对称性是整个课程最优雅的部分之一。

与其他讲次的关联

• 讲次 4（$A=LU$）：本讲的 $P$ 补全了 $PA=LU$；$P^{-1}=P^{\mathsf T}$ 解释了为什么 $A=P^{\mathsf T}LU$。
• 讲次 2-3（消元、矩阵乘法）：转置性质 3 依赖 $AB$ 的元素展开；本讲把”左乘换行、右乘换列”讲透。
• 讲次 6（列空间与零空间）：直接续讲。本讲已给出 $C(A)\subseteq\mathbb R^m$、$N(A)\subseteq\mathbb R^n$ 以及”为什么自动是子空间”，下一讲开始算维数。
• 讲次 7（$Ax=0$ 与主变量）：$N(A)$ 的具体求法（自由变量、特解）。
• 讲次 10（四个基本子空间）：$C(A)\perp N(A^{\mathsf T})$、$C(A^{\mathsf T})\perp N(A)$——正交性完全靠转置表述，本讲的对偶视角（$\langle A\mathbf x,\mathbf y\rangle=\langle\mathbf x,A^{\mathsf T}\mathbf y\rangle$）是引理。
• 讲次 16（最小二乘）：正规方程 $A^{\mathsf T}A\hat{\mathbf x}=A^{\mathsf T}\mathbf b$ 直接来自本讲的 $A^{\mathsf T}A$ 对称性与几何含义。
• 讲次 17（正交矩阵与 Gram-Schmidt）：$P^{\mathsf T}P=I$ 是正交矩阵的最简范例；$Q^{\mathsf T}Q=I$ 是它的连续推广。$n!$ 个置换矩阵是正交群 $O(n)$ 中的离散点。
• 讲次 18-20（行列式）：$\det P=\pm1$ 与置换的奇偶性；行列式的”符号求和”定义就是”枚举所有置换矩阵”。
• 讲次 25（对称正定矩阵）：$S=S^{\mathsf T}$ 的谱定理——实特征值、正交特征向量。$A^{\mathsf T}A$ 是最常见的正定矩阵。

关键要点

1. 转置三律：$(A^{\mathsf T})^{\mathsf T}=A$；$(A+B)^{\mathsf T}=A^{\mathsf T}+B^{\mathsf T}$；$\boxed{(AB)^{\mathsf T}=B^{\mathsf T}A^{\mathsf T}}$（顺序反转，由维度强制）。核心理性刻画：$\langle A\mathbf x,\mathbf y\rangle=\langle\mathbf x,A^{\mathsf T}\mathbf y\rangle$。
2. $A^{\mathsf T}A$ 永远对称：$(A^{\mathsf T}A)^{\mathsf T}=A^{\mathsf T}A$；且 $(A^{\mathsf T}A)_{ij}=\mathbf a_i\cdot\mathbf a_j$（第 $i$ 列与第 $j$ 列的内积，即 Gram 矩阵）。这是最小二乘的地基。注意 $A^{\mathsf T}A$ 是 $n\times n$，$AA^{\mathsf T}$ 是 $m\times m$，两者一般不相同。
3. 置换矩阵：每行每列恰一个 1；共 $n!$ 个；$P^{\mathsf T}P=I$ 即 $P^{-1}=P^{\mathsf T}$；$\det P=\pm1$；$PA$ 重排 $A$ 的行，$AP$ 重排 $A$ 的列。
4. 子空间的判定：非空子集 $S\subseteq\mathbb R^n$ 是子空间 $\iff$ 对加法与数乘封闭（等价于对一切线性组合封闭）。必含 $\mathbf 0$——查零向量是最快的否决测试。
5. 完整分类：$\mathbb R^2$ 只有 $\{\mathbf 0\}$、过原点的直线、$\mathbb R^2$；$\mathbb R^3$ 只有 $\{\mathbf 0\}$、过原点的直线、过原点的平面、$\mathbb R^3$。任何不过原点的直线/平面都不是子空间。
6. $C(A)\subseteq\mathbb R^m$，$N(A)\subseteq\mathbb R^n$（$A$ 为 $m\times n$）。列空间 = 矩阵能打出的所有目标；零空间 = 被打成 0 的所有输入。

常见误区与注意事项

1. 把 $(AB)^{\mathsf T}$ 写成 $A^{\mathsf T}B^{\mathsf T}$。 必须反序：$(AB)^{\mathsf T}=B^{\mathsf T}A^{\mathsf T}$。维度检查是终极大法：$A$ 为 $m\times n$、$B$ 为 $n\times p$ 时，$A^{\mathsf T}B^{\mathsf T}$ 的形状是 $(n\times m)(p\times n)$，一般根本无法相乘。
2. 把 $A^{\mathsf T}A$ 与 $AA^{\mathsf T}$ 混为一谈。 前者 $n\times n$、后者 $m\times m$。以示例二的 $M$（$2\times3$）为例：$M^{\mathsf T}M$ 是 $3\times3$ 但秩只有 2（因为列数 3 > 行数 2，必然奇异），而 $MM^{\mathsf T}$ 是 $2\times2$ 且可逆（$\det=14\cdot17-14\cdot14=238-196=42\neq0$）。”$A^{\mathsf T}A$ 可逆”需要 $A$ 的列线性无关（此时必须 $n\le m$）。
3. 忘记置换矩阵的行列式有符号。 $\det P=\pm1$ 而不是恒为 $+1$。交换一次得 $-1$，$n$ 阶置换的符号等于 $(-1)^{\#\text{交换}}$（严格说是 $(-1)^{\#\text{逆序对}}$）。
4. 认为”不过原点的直线也是子空间”。 这是最经典的错误。$y=x+1$ 上取两点相加就跑出去了。记住口诀：子空间必须过原点（因为 $0\cdot\mathbf v=\mathbf 0$ 必须留在集合内）。
5. 把 $C(A)$ 说成 $\mathbb R^n$ 里的、把 $N(A)$ 说成 $\mathbb R^m$ 里的。 严格纠正：$A$ 是 $m\times n$，则 $A:\mathbb R^n\to\mathbb R^m$，所以列空间（输出）$\subseteq\mathbb R^m$，零空间（输入）$\subseteq\mathbb R^n$。行空间 $C(A^{\mathsf T})\subseteq\mathbb R^n$（不是 $\mathbb R^m$）。
6. 以为”子空间 = 任意向量集合”。 有限个向量组成的集合（如 $\{(1,0),(0,1)\}$ 只有两个元素）不是子空间——它不含 $(1,1)$，也不含 $\mathbf 0$。”张成（span）的集合”才是子空间，即把这些向量的所有线性组合都收进来。
7. 混淆”过原点的平面”与”平面”。 $\mathbb R^3$ 中 $x_3=1$ 的平面不是子空间（不过原点）；而 $x_3=x_1+x_2$（等价于 $x_1+x_2-x_3=0$，是齐次方程）才是。判别法：子空间 $\iff$ 是某个齐次线性方程组 $A\mathbf x=\mathbf 0$ 的解集。

思考题（带答案）

Q1.（纯计算） 设 $A=\begin{bmatrix}1&2&0\\3&1&1\end{bmatrix}$、$B=\begin{bmatrix}1&0\\0&2\\1&1\end{bmatrix}$。计算 $AB$、$(AB)^{\mathsf T}$、$B^{\mathsf T}A^{\mathsf T}$，验证 $(AB)^{\mathsf T}=B^{\mathsf T}A^{\mathsf T}$；再计算 $A^{\mathsf T}A$ 并确认它对称。

Q2.（概念） 判断下列集合是否为 $\mathbb R^2$ 或 $\mathbb R^3$ 的子空间，并说明理由： (a) $S_1=\{(x,y)^{\mathsf T}:y=2x\}$； (b) $S_2=\{(x,y)^{\mathsf T}:y=x^2\}$； (c) $S_3=\{(x,y,z)^{\mathsf T}:x+y+z=0\}$； (d) $S_4=\{(x,y,z)^{\mathsf T}:x+y+z=1\}$。

Q3.（概念 + 计算） (i) 说明 $C(A)$ 为什么自动是子空间。(ii) 对 $A=\begin{bmatrix}1&2\\2&4\\3&6\end{bmatrix}$，描述 $C(A)$ 与 $N(A)$，并指出它们各自位于哪个 $\mathbb R^k$ 中。(iii) 为什么 $\mathbb R^2$ 中”不过原点的直线”不能是任何矩阵的列空间或零空间？