MIT 18.06 线性代数 · 开篇与课程概览
课程：MIT 18.06 Linear Algebra（Gilbert Strang） 教材：Strang, Gilbert. Introduction to Linear Algebra. 5th ed. Wellesley-Cambridge Press, 2016 官方主页：web.mit.edu/18.06/www 视频：MIT OpenCourseWare · 18.06 Linear Algebra 先修：18.02 多变量微积分 考核：每周作业 + 三次期中考试（Quiz 1/2/3）+ 一次期末考试
课程概览
一句话定位
线性代数是关于向量空间与线性变换的学科；矩阵是这场戏的记账工具，而不是主角。Strang 教授在整个课程中反复强调同一句话：
“Use matrices, and understand matrices.” —— 会用矩阵，更要理解矩阵。
这门课到底在讲什么？
很多线性代数课程从”行列式怎么算”开始，把学生训练成算题机器。18.06 走的是相反的路：先建立几何图像，再落到计算公式。整门课可以压缩成三个问题：
- 求解：$A\mathbf{x}=\mathbf{b}$ 什么时候有解？解有多少个？——答案藏在列空间与零空间里。
- 分解：能不能把 $A$ 拆成几个”结构简单”的矩阵之积？——$A=LU$、$A=QR$、$A=S\Lambda S^{-1}$、$A=U\Sigma V^{\mathsf T}$、$A=CR$。
- 特征：哪些方向在变换 $A$ 下只是被拉伸、不被转动？——特征值与特征向量。
这三个问题的答案，最终汇聚成一幅图：四个基本子空间（Lecture 10）。
三大核心主题
主题一：四个基本子空间——课程的”统一场论”
对任意 $m\times n$ 矩阵 $A$（秩为 $r$），只有四个子空间值得记住：
| 子空间 | 记号 | 所在空间 | 维数 | 回答什么问题 |
|---|---|---|---|---|
| 列空间 | $C(A)$ | $\mathbb{R}^m$ | $r$ | $A\mathbf{x}=\mathbf{b}$ 有解吗？ |
| 零空间 | $N(A)$ | $\mathbb{R}^n$ | $n-r$ | 解的”自由度”有多少？ |
| 行空间 | $C(A^{\mathsf T})$ | $\mathbb{R}^n$ | $r$ | 哪些方向被 $A$ 保留下来？ |
| 左零空间 | $N(A^{\mathsf T})$ | $\mathbb{R}^m$ | $m-r$ | 哪些 $\mathbf{b}$ 永远取不到？ |
它们满足两条正交分解：
\[\mathbb{R}^n = C(A^{\mathsf T}) \oplus N(A), \qquad \mathbb{R}^m = C(A) \oplus N(A^{\mathsf T})\]这四个子空间把前面所有关于 $A\mathbf{x}=\mathbf{0}$、$A\mathbf{x}=\mathbf{b}$ 的零散讨论一次性收拢：解的存在性由 $C(A)$ 决定，解的自由度由 $N(A)$ 决定。
R^n 空间 R^m 空间
+-----------------------+ +-----------------------+
| C(A^T) 行空间 | | C(A) 列空间 |
| dim = r | --A--> | dim = r |
+-----------------------+ +-----------------------+
| N(A) 零空间 | | N(A^T) 左零空间 |
| dim = n - r | --A--> | dim = m - r (归零) |
+-----------------------+ +-----------------------+
行空间 ⊥ 零空间 列空间 ⊥ 左零空间
主题二：矩阵分解——把复杂问题变成简单问题
Strang 的课几乎每一讲都在偷偷介绍一种分解。分解的哲学是：把一个难处理的矩阵，写成几个容易处理的矩阵之积。
- $A=LU$：消元的产物。把解方程变成两次三角形回代（Lecture 4）。
- $A=QR$：正交化的产物。把最小二乘变成稳定的三角求解（Lecture 17）。
- $A=S\Lambda S^{-1}$：特征向量的产物。把矩阵幂 $A^k$ 变成对角元的幂（Lecture 22）。
- $A=U\Sigma V^{\mathsf T}$：SVD。任何矩阵都能用，是课程的高潮（Lecture 29）。
- $A=CR$：秩的产物。用 $r$ 个独立列与 $r$ 个独立行精确重建 $A$（Lecture 11）。
主题三：应用——线性代数从哪里来、到哪里去
18.06 与传统课程最大的差异是每个概念都有出处：
- 图与网络（Lecture 11-12）：图的关联矩阵，其零空间给出基尔霍夫电流定律，$A^{\mathsf T}A$ 就是拉普拉斯矩阵。
- 最小二乘与数据拟合（Lecture 16）：超定系统的几何答案，统计回归的骨架。
- 微分方程（Lecture 23）：$\mathrm{d}\mathbf{u}/\mathrm{d}t = A\mathbf{u}$ 的解由特征值决定稳定性。
- 马尔可夫链与 PageRank（Lecture 24）：稳态向量就是特征值 1 的特征向量。
- 傅里叶级数（Lecture 24）：函数空间上的正交基展开——投影公式的无穷维版本。
- 图像压缩与降维（Lecture 29、31）：SVD 低秩逼近就是最优压缩。
学习方法建议
这门课的特点是“算得少，想得多”，但有三个必须动手的地方：
- 用小矩阵算穿每一个算法。不要满足于”看懂了”。拿一个 $2\times2$ 或 $3\times3$ 的整数矩阵，把消元、求逆、Gram-Schmidt、特征值全部手算一遍。本笔记每一讲都提供了完整的手算演示，请跟着算一遍。
- 每个公式都要问”几何上发生了什么”。例如 $P^2=P$ 不是代数巧合，它的意思是”投影两次等于投影一次”。
- 抓住四个基本子空间这张图。当你迷路时，问自己：现在讨论的是 $\mathbb{R}^n$ 还是 $\mathbb{R}^m$？是行空间还是零空间？
讲次路线图
| 阶段 | 讲次 | 主线 |
|---|---|---|
| 第一阶段：消元与分解 | 1-5 | 从 $A\mathbf{x}=\mathbf{b}$ 的几何，到 $A=LU$，建立”矩阵=线性变换”的观点 |
| 第二阶段：子空间 | 6-10 | 四个基本子空间，$A\mathbf{x}=\mathbf{0}$ 与 $A\mathbf{x}=\mathbf{b}$ 的完整理论 |
| 第三阶段：矩阵与图 | 11-12 | 矩阵空间、秩 1 矩阵、$A=CR$、图与网络 |
| 第四阶段：正交性 | 14-17 | 正交、投影、最小二乘、$A=QR$ |
| 第五阶段：行列式 | 18-20 | 行列式的性质、公式、体积与 Cramer 法则 |
| 第六阶段：特征值 | 21-25 | $A\mathbf{x}=\lambda\mathbf{x}$、$A=S\Lambda S^{-1}$、微分方程、马尔可夫、对称正定 |
| 第七阶段：正定、Jordan、SVD | 27-29 | 极小值与正定、相似与 Jordan 形、奇异值分解 |
| 第八阶段：线性变换与伪逆 | 30-31, 33 | 无坐标视角、换基、左/右逆与伪逆 |
说明：原课程中 Lecture 13、26、32 分别为 Quiz 1/2/3 复习课（Lecture 26 为”复数矩阵与 FFT”的复习兼讲），不属于新知识点主线，故本笔记按知识点讲次编排，不单独成篇；相关知识点（复特征值、FFT）在 Lecture 21、24 中已作必要介绍。
讲次索引
| 讲次 | 主题 | 教材章节 | 一句话看点 |
|---|---|---|---|
| 1 | The Geometry of Linear Equations | 1.1-2.1 | 行图像 / 列图像 / $A\mathbf{x}=\mathbf{b}$ 三视角 |
| 2 | Elimination with Matrices | 2.2 | 消元矩阵 $E$ 与矩阵乘法四视角 |
| 3 | Multiplication and Inverse Matrices | 2.4-2.5 | Gauss-Jordan 求逆、奇异=压扁 |
| 4 | Factorization into A = LU | 2.6 | 为什么 $L$ 里是干净的乘数 |
| 5 | Transposes, Permutations, Spaces R^n | 2.7 | $A^{\mathsf T}A$ 对称、子空间必须过原点 |
| 6 | Column Space and Nullspace | 3.1-3.2 | 两个子空间回答两个问题 |
| 7 | Solving Ax = 0 | 3.2 | 特殊解配方、$\dim N(A)=n-r$ |
| 8 | Solving Ax = b | 3.3-3.4 | $\mathbf{x}=\mathbf{x}_p+\mathbf{x}_n$ 与 $(r,m,n)$ 分类 |
| 9 | Independence, Basis, and Dimension | 3.5 | 基”不多不少刚刚好”，维数唯一 |
| 10 | The Four Fundamental Subspaces | 3.6 | 课程统一框架 + 正交大图 |
| 11 | Matrix Spaces; Rank 1 | 8.2 | 矩阵空间维数、$A=CR$ |
| 12 | Graphs, Networks, Incidence Matrices | 8.2 | 关联矩阵、基尔霍夫定律、欧拉公式 |
| 14 | Orthogonal Vectors and Subspaces | 4.1 | 正交补、$N(A^{\mathsf T}A)=N(A)$ |
| 15 | Projections onto Subspaces | 4.2 | $P=\mathbf{a}\mathbf{a}^{\mathsf T}/\mathbf{a}^{\mathsf T}\mathbf{a}$ 与正规方程 |
| 16 | Projection Matrices and Least Squares | 4.2-4.3 | 直线拟合手算到底 |
| 17 | Orthogonal Matrices and Gram-Schmidt | 4.4 | 减投影的几何、$A=QR$ |
| 18 | Properties of Determinants | 5.1 | 三条公理推出十条性质 |
| 19 | Determinant Formulas and Cofactors | 5.2 | 大公式、余子式展开 |
| 20 | Cramer’s Rule, Inverse, Volume | 5.3 | $\lvert\det\rvert$ = 面积/体积 |
| 21 | Eigenvalues and Eigenvectors | 6.1 | 方向不变的方向 |
| 22 | Diagonalization and Powers of A | 6.2 | $A^k=S\Lambda^kS^{-1}$、Fibonacci |
| 23 | Differential Equations and exp(At) | 6.3 | 稳定性由 $\operatorname{Re}\lambda$ 决定 |
| 24 | Markov Matrices; Fourier Series | 8.3, 8.5 | 稳态向量 = 特征值 1；傅里叶=投影 |
| 25 | Symmetric Matrices and Positive Definiteness | 6.4 | 实特征值、$A=Q\Lambda Q^{\mathsf T}$ |
| 27 | Positive Definite Matrices and Minima | 6.5 | 配方=消元、椭球与鞍点 |
| 28 | Similar Matrices and Jordan Form | 6.6 | 相似不变量、广义特征向量链 |
| 29 | Singular Value Decomposition | 6.7 | 课程高潮：任意矩阵的最优正交结构 |
| 30 | Linear Transformations and Their Matrices | 7.1 | 先有变换，后有矩阵 |
| 31 | Change of Basis; Image Compression | 7.2 | $B=W^{-1}AW$、换基压缩 |
| 33 | Left and Right Inverses; Pseudoinverse | 7.3 | $A^{+}=V\Sigma^{+}U^{\mathsf T}$ |
如何阅读本笔记
每一讲的笔记都严格按同一套骨架组织，你可以按需跳读：
| 小节 | 回答什么问题 | 什么时候看 |
|---|---|---|
| 概述 | 这一讲要解决什么？ | 开始学一讲之前 |
| 核心概念的几何直觉 | “它在空间中是什么样子？” | 概念模糊、想建立图像时 |
| 计算步骤与手算演示 | 具体怎么算？ | 动手做题时（建议跟算一遍） |
| 矩阵分解的核心思想 | 这一讲与哪种分解有关？ | 想理解课程主线时 |
| 与其他讲次的关联 | 它和前后讲怎么接上？ | 复习、串知识时 |
| 关键要点 | 必须记住的几条？ | 考前速览 |
| 常见误区与注意事项 | 大家通常错在哪里？ | 自我检查时 |
| 思考题（带答案） | 我真的懂了吗？ | 学完自测 |
使用建议：笔记中所有关键数值（秩、特征值、行列式、投影、奇异值等）都经过脚本验算。但读数学不能只读——遇到手算演示时，请拿纸笔遮住后续步骤自己算一遍，再对照笔记。凡是标有 【计算机制解说】 的地方，都是在回答”为什么这个算法能这么做”，那是本笔记最值得细读的部分。