Lecture 25: Symmetric Matrices and Positive Definiteness

目录 · ← l23 · l25 →

Lecture 25: Symmetric Matrices and Positive Definiteness

概述

本讲把特征值理论推进到课程中最重要的一类矩阵：实对称矩阵 $S = S^{\mathsf{T}}$。我们将证明两件”礼物”：对称矩阵的特征值全是实数，且不同特征值对应的特征向量相互正交——于是它一定能被正交矩阵对角化：$A = Q\Lambda Q^{\mathsf{T}}$（谱定理 spectral theorem），并可展开成 $n$ 个秩 1 投影矩阵之和 $A = \lambda_1\mathbf{q}_1\mathbf{q}_1^{\mathsf{T}} + \cdots + \lambda_n\mathbf{q}_n\mathbf{q}_n^{\mathsf{T}}$。

进一步的礼物是：当所有 $\lambda_i > 0$ 时，$x^{\mathsf{T}}Ax > 0$ 对一切 $x \neq \mathbf{0}$ 成立，这就是正定（positive definite）。正定给出了四个互相等价的判据（特征值、顺序主子式、主元、$A = R^{\mathsf{T}}R$），它们是极小值问题、最小二乘、弹簧系统稳定性、协方差矩阵的共同语言。

本讲在课程中的位置：紧随讲次 21（特征值）、22（对角化）和 23（对称矩阵），是特征值一章的收官与高潮，并为讲次 27（正定与极小值）、讲次 28（Jordan 形）、讲次 29（SVD）铺路。

核心概念的几何直觉

概念 1：对称矩阵 = 无旋转的纯伸缩

定义与目的：$A$ 是对称矩阵，当且仅当 $A = A^{\mathsf{T}}$，即 $a_{ij} = a_{ji}$。它由 $\frac{n(n+1)}{2}$ 个独立数字决定（而不是 $n^2$ 个），是”自由度最少”的一类方阵；对角矩阵是最简单的情形。
几何直觉（它在空间中是什么样子？）：一般的 $n \times n$ 矩阵对应的线性变换会旋转空间（特征向量一般不垂直，甚至不够 $n$ 个）。对称矩阵对应的变换是无旋转的纯伸缩：存在一组互相垂直的坐标轴（主轴），变换只是沿每条轴独立地拉伸或压缩，倍率就是特征值。若某个 $\lambda_i$ 为负，就是沿该轴翻转到反方向。因此对称矩阵是”最好的一类矩阵”：它的作用可以被彻底理解，没有任何扭斜成分。
具体示例：$A = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}$。沿方向 $\mathbf{q}_1 = \frac{1}{\sqrt2}\begin{bmatrix} 1 \\ 1 \end{bmatrix}$，$A\mathbf{q}_1 = 3\mathbf{q}_1$（拉伸 3 倍）；沿垂直方向 $\mathbf{q}_2 = \frac{1}{\sqrt2}\begin{bmatrix} 1 \\ -1 \end{bmatrix}$，$A\mathbf{q}_2 = 1\mathbf{q}_2$（保持不变）。整个平面被这两条垂直的轴切成四块，每块都只是纯伸缩。

概念 2：谱定理（spectral theorem）——对称矩阵的正交对角化

定义与目的：实对称矩阵一定可以写成 $A = Q\Lambda Q^{\mathsf{T}}, \qquad Q^{\mathsf{T}}Q = I\ (Q^{-1} = Q^{\mathsf{T}}),\qquad \Lambda = \operatorname{diag}(\lambda_1,\dots,\lambda_n)\ \text{为实对角阵}.$ 对比讲次 22 的一般对角化 $A = S\Lambda S^{-1}$：那里 $S$ 的列只是线性无关，这里 $Q$ 的列是正交的单位向量，于是 $S^{-1}$ 这个难算的东西直接变成了 $Q^{\mathsf{T}}$。
几何直觉：$A = Q\Lambda Q^{\mathsf{T}}$ 读作三步变换：$Q^{\mathsf{T}}$ 把标准坐标旋转到主轴坐标系（因为 $Q^{\mathsf{T}} = Q^{-1}$，它只是换基，不改变几何长度）；$\Lambda$ 在各主轴上做伸缩；$Q$ 再旋转回原坐标系。三个动作里两个是纯旋转，中间那个是纯伸缩——这正是”无旋转的纯伸缩”的严格表述。
具体示例：$A = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix} = \frac{1}{\sqrt2}\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}\begin{bmatrix} 3 & 0 \\ 0 & 1 \end{bmatrix}\frac{1}{\sqrt2}\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}^{\mathsf{T}}$。注意 $Q$ 是对称的（$Q = Q^{\mathsf{T}}$，它是一个反射），这只是巧合，不是普遍规律。

概念 3：秩 1 展开——对称矩阵是投影的加权和

定义与目的：由 $A = Q\Lambda Q^{\mathsf{T}}$ 展开得 $A = \lambda_1\mathbf{q}_1\mathbf{q}_1^{\mathsf{T}} + \lambda_2\mathbf{q}_2\mathbf{q}_2^{\mathsf{T}} + \cdots + \lambda_n\mathbf{q}_n\mathbf{q}_n^{\mathsf{T}}.$
几何直觉：每个 $\mathbf{q}_i\mathbf{q}_i^{\mathsf{T}}$ 是一个投影矩阵（呼应讲次 11、15）：$(\mathbf{q}_i\mathbf{q}_i^{\mathsf{T}})\mathbf{x} = \mathbf{q}_i(\mathbf{q}_i^{\mathsf{T}}\mathbf{x})$，把 $\mathbf{x}$ 投影到直线 $\mathbf{q}_i$ 上。所以对称矩阵的作用是：把输入投影到 $n$ 条互相垂直的主轴上，各自乘以 $\lambda_i$，再加起来。这就是”各主轴方向上独立的伸缩之和”。
具体示例：$\begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix} = 3\begin{bmatrix} 0.5 & 0.5 \\ 0.5 & 0.5 \end{bmatrix} + 1\begin{bmatrix} 0.5 & -0.5 \\ -0.5 & 0.5 \end{bmatrix} = \begin{bmatrix} 1.5 & 1.5 \\ 1.5 & 1.5 \end{bmatrix} + \begin{bmatrix} 0.5 & -0.5 \\ -0.5 & 0.5 \end{bmatrix} = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}$。（已用脚本验算。）

概念 4：正定（positive definite）——处处为正的二次型

定义与目的：设 $A$ 是实对称矩阵。称 $A$ 正定，若对所有 $\mathbf{x} \neq \mathbf{0}$ 都有 $x^{\mathsf{T}}Ax > 0.$ 称 $A$ 半正定（positive semidefinite），若对所有 $\mathbf{x}$ 都有 $x^{\mathsf{T}}Ax \geq 0$（允许取等号，即允许奇异）。注意：“正定”这个词只对称矩阵才用（见常见误区 ①）。
几何直觉：$x^{\mathsf{T}}Ax$ 是”能量函数”。用谱定理代入 $A = Q\Lambda Q^{\mathsf{T}}$，令 $\mathbf{y} = Q^{\mathsf{T}}\mathbf{x}$（纯旋转，$\vert \mathbf{y}\vert = \vert \mathbf{x}\vert $），则 $x^{\mathsf{T}}Ax = \mathbf{y}^{\mathsf{T}}\Lambda\mathbf{y} = \lambda_1 y_1^2 + \lambda_2 y_2^2 + \cdots + \lambda_n y_n^2.$ 这是一个没有交叉项的平方和！于是”对所有 $\mathbf{x} \neq \mathbf{0}$ 为正”立刻等价于”所有 $\lambda_i > 0$”——这是四个判据中最根本的一条。几何上，正定意味着这个能量面是一个向上开口的碗（唯一的极小点在原点）。
具体示例：$A = \begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix}$：取 $\mathbf{x} = (1,1)$，$x^{\mathsf{T}}Ax = 2 - 2 + 2 = 2 > 0$；取 $\mathbf{x} = (1,-1)$，$x^{\mathsf{T}}Ax = 2 + 2 + 2 = 6 > 0$。（已验算。）这两个方向就是特征向量方向，恰好给出 $x^{\mathsf{T}}Ax$ 的最小与最大值（乘以 2）。而 $A = \begin{bmatrix} 1 & 3 \\ 3 & 1 \end{bmatrix}$ 取 $\mathbf{x} = (1,-1)$ 得 $x^{\mathsf{T}}Ax = 1 - 6 + 1 = -4 < 0$，故不正定。

概念 5：椭球图景——$x^{\mathsf{T}}Ax = 1$ 的形状

定义与目的：把正定二次型取等值面 $x^{\mathsf{T}}Ax = 1$，得到中心在原点的椭球（二维是椭圆）。沿特征向量方向 $\mathbf{q}_i$，$x^{\mathsf{T}}Ax = \lambda_i t^2 = 1$，故该半轴长为 $a_i = \frac{1}{\sqrt{\lambda_i}}.$ 特征值越大，对应轴越短（因为要把 $x$ 拉得更小才能让二次型等于 1）。
几何直觉：主轴方向 = 特征向量方向；特征值正负决定它是封闭的椭球（全正）、双曲面（有正有负）、还是退化的柱面（有零特征值，某个方向完全平坦）。
具体示例：$A = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}$，$\lambda = 3, 1$，半轴长 $1/\sqrt3 \approx 0.577$（沿 $\mathbf{q}_1$）与 $1$（沿 $\mathbf{q}_2$）。脚本验算：$\theta = 0°$ 时边界点 $(0.7071, 0)$（长度 $0.7071$）；$\theta = 45°$ 时 $(0.4082, 0.4082)$（长度 $0.5774$，正是最短的 $1/\sqrt3$）；$\theta = 90°$ 时 $(0, 0.7071)$。$\theta = 45°$ 最短、$\theta = 0°, 90°$ 最长，与”椭圆斜着放”的图像一致。

   x^T A x = 1,  A = [[2,1],[1,2]]  的椭圆（脚本算出的真实边界点）

        x2
         ^
    0.71 +- - - - - - -●(0, 0.7071)          ← 半轴长 1 沿 q2 = (1,-1)/√2
         |          ,-''-,
         |        ,'      `.
    0.50 +       /    .     \               ● (0.2953, 0.5116)  θ=60°
         |      |   q1 \     |
         |      |  ↖   \     |
         |     |    \   \     |             q1 = (1,1)/√2  沿此方向长 1/√3 ≈ 0.577
         |     |     \   \    |
   -----+-----+------●----\---+----->  x1   ● (0.4082, 0.4082)  θ=45°  ← 最短！
         |     |  (0.577)|    |               （这就是 λ=3 的主轴方向）
         |     |        \     |             ● (0.5116, 0.2953)  θ=30°
         |      |        \    |
         |       \        \  /
         |        `-.____,-'`
   -0.71 +- - - - - - - - - - - - - - -  ● (0.7071, 0)  θ=0°  长 0.7071

   口诀：λ 大的方向，轴短（1/√λ）；λ = 3 的 q1 方向半轴 0.577 < λ = 1 的 q2 方向半轴 1

   x^T A x = 1 的等值线对比（A 对称，2x2）

   (a) A 正定: lam1,lam2 > 0        (b) A 不定: lam1 > 0 > lam2
       ==> 椭圆（封闭）                  ==> 双曲线（开放，两支）

        \        |        /              \         |         /
         \       |       /                \        |        /
          \______|______/                  \_______|_______/
          /      |      \                  /       |       \
         /       |       \                /        |        \
        /        |        \              /         |         \
                                         ----------------------  <- 渐近线(45度)
   主轴 = 特征向量方向 q1, q2              过原点有 4 个"分支"，无界
   半轴长 = 1/sqrt(lam_i)                  x^T A x = 0 给出两条渐近线方向

   (c) A 半正定但奇异: lam1 > 0, lam2 = 0
       ==> 退化为"柱面"：沿 q2 方向完全平坦
       x^T A x = 1 其实是两条平行直线（无限延伸，无界）

                    |         |
       -------------+---------+-------------   <- 两条平行线
                    |         |
       沿 q2 方向 x^T A x 恒不变：能量有"零代价"方向

概念 6：两大定理及其证明思路（本讲的理论核心）

定理 1（实特征值）：设 $A$ 是实对称矩阵，$\lambda$ 是它的任一特征值（允许是复数），则 $\lambda$ 必为实数。

证明思路（四步，务必记住”$x^{\mathsf{T}}Ax$ 是实数”这个关键）：设 $A\mathbf{x} = \lambda\mathbf{x}$，$\mathbf{x} \neq \mathbf{0}$，允许 $\mathbf{x}$ 与 $\lambda$ 是复数。记 $\bar{\mathbf{x}}^{\mathsf{T}}$ 为 $\mathbf{x}$ 的共轭转置（即 $\bar{\mathbf{x}}^{\mathsf{T}} = \overline{\mathbf{x}^{\mathsf{T}}}$）。

第一步：两边左乘 $\bar{\mathbf{x}}^{\mathsf{T}}$： $\bar{\mathbf{x}}^{\mathsf{T}}A\mathbf{x} = \lambda\,\bar{\mathbf{x}}^{\mathsf{T}}\mathbf{x} = \lambda\vert \mathbf{x}\vert ^2.$ 这里 $\bar{\mathbf{x}}^{\mathsf{T}}\mathbf{x} = \vert x_1\vert ^2 + \cdots + \vert x_n\vert ^2 = \vert \mathbf{x}\vert ^2 > 0$ 是正实数。
第二步：对这个数取共轭。因为 $A$ 是实对称矩阵（$\bar{A} = A$，$A^{\mathsf{T}} = A$），有 $\overline{\bar{\mathbf{x}}^{\mathsf{T}}A\mathbf{x}} = \mathbf{x}^{\mathsf{T}}\bar{A}\bar{\mathbf{x}} = \mathbf{x}^{\mathsf{T}}A\bar{\mathbf{x}} = (\bar{\mathbf{x}}^{\mathsf{T}}A^{\mathsf{T}}\mathbf{x})^{\mathsf{T}} = \bar{\mathbf{x}}^{\mathsf{T}}A\mathbf{x}.$ 最后一步用到 $\bar{\mathbf{x}}^{\mathsf{T}}A\mathbf{x}$ 是一个标量（$1\times1$），转置不变。所以 $\boxed{\ \bar{\mathbf{x}}^{\mathsf{T}}A\mathbf{x}\ \text{是实数}\ }$ 这是整个证明的枢纽：它把”取共轭”这条通道打通了。
第三步：对第一步的等式两边取共轭，左边是实数，右边得 $\bar{\lambda}\vert \mathbf{x}\vert ^2$： $\bar{\mathbf{x}}^{\mathsf{T}}A\mathbf{x} = \bar{\lambda}\vert \mathbf{x}\vert ^2.$
第四步：与第一步相减：$(\lambda - \bar{\lambda})\vert \mathbf{x}\vert ^2 = 0$。因 $\vert \mathbf{x}\vert ^2 > 0$，得 $\lambda = \bar{\lambda}$，即 $\lambda$ 是实数。$\blacksquare$
几何直觉：一般实矩阵的特征值可以成对出现为共轭复数 $a \pm bi$，对应的运动是旋转 + 伸缩（如旋转矩阵 $\begin{bmatrix} 0 & -1 \\ 1 & 0 \end{bmatrix}$ 的 $\lambda = \pm i$，纯旋转）。定理 1 说：对称矩阵里不允许有旋转成分，所以描述”螺旋”的复数特征值没有存在的余地。
具体示例：$A = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}$ 得 $\lambda = 3, 1$（实数）✓；若把它改成 $B = \begin{bmatrix} 0 & -1 \\ 1 & 0 \end{bmatrix}$（反称，不是对称），则 $\det(B - \lambda I) = \lambda^2 + 1 = 0$，$\lambda = \pm i$——对称性一旦破坏，实特征值立刻消失。

定理 2（不同特征值的特征向量正交）：设 $A = A^{\mathsf{T}}$，$A\mathbf{x}_1 = \lambda_1\mathbf{x}_1$，$A\mathbf{x}_2 = \lambda_2\mathbf{x}_2$，且 $\lambda_1 \neq \lambda_2$，则 $\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2 = 0$。

证明（短而漂亮，用”两种方式算同一个数”）： $\lambda_1\,\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2 = (A\mathbf{x}_1)^{\mathsf{T}}\mathbf{x}_2 = \mathbf{x}_1^{\mathsf{T}}A^{\mathsf{T}}\mathbf{x}_2 \overset{A^{\mathsf{T}}=A}{=} \mathbf{x}_1^{\mathsf{T}}A\mathbf{x}_2 = \mathbf{x}_1^{\mathsf{T}}(\lambda_2\mathbf{x}_2) = \lambda_2\,\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2.$ 移项得 $(\lambda_1 - \lambda_2)\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2 = 0$。因 $\lambda_1 \neq \lambda_2$，必有 $\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2 = 0$，即两特征向量正交。$\blacksquare$

几何直觉：两个特征向量各自”只被拉伸、方向不变”，若它们不垂直，就会互相”渗漏”，那就有了旋转成分——与定理 1 的精神一致。
具体示例：示例 1 中 $\mathbf{x}_1 = (1,1)$，$\mathbf{x}_2 = (1,-1)$，$\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2 = 0$ ✓。而非对称的 $B = \begin{bmatrix} 1 & 1 \\ 0 & 2 \end{bmatrix}$ 特征向量为 $(1,0)$ 与 $(1,1)$，内积 $= 1 \neq 0$，并不正交——这是对称性独有的特权。

定理 3（谱定理，不加证明但说明机制）：实对称矩阵一定可以正交对角化：$A = Q\Lambda Q^{\mathsf{T}}$，$\Lambda$ 为实对角阵，$Q$ 为正交矩阵。

重根情形怎么处理：定理 2 只覆盖 $\lambda_i \neq \lambda_j$ 的情形。若某个 $\lambda$ 是 $k$ 重根，由对称矩阵的”永不缺陷”性质（讲次 28），方程 $(A - \lambda I)\mathbf{x} = \mathbf{0}$ 的解空间是 $k$ 维的；在这个 $k$ 维子空间内部可以用 Gram–Schmidt（讲次 17）任选一组正交基。加上定理 2 保证这个子空间与其它特征空间正交，合起来仍是 $n$ 个互相正交的单位特征向量。$\blacksquare$
具体示例（重根）：$A = \begin{bmatrix} 2 & 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 3 \end{bmatrix}$ 的 $\lambda = 3$ 是二重根，特征空间是 $x_1 = 0$ 的整个平面，其中可任取正交单位向量 $\mathbf{e}_2, \mathbf{e}_3$；配上前面的 $\mathbf{e}_1$ 共得 $Q = I$，$A = I\Lambda I^{\mathsf{T}}$。更不平凡的例：$A = \begin{bmatrix} 3 & 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 1 \end{bmatrix}$ 的 $\lambda = 3$ 二重，取 $\mathbf{q}_1 = \frac{1}{\sqrt2}(1,1,0)$、$\mathbf{q}_2 = \frac{1}{\sqrt2}(1,-1,0)$ 也对——重根的特征空间里”任何正交基都可以”。

计算步骤与手算演示

以下 6 个示例构成一条完整的”计算流水线”：示例 1 走通正交对角化与秩 1 展开的全流程；示例 2 展示对称矩阵可以有负特征值；示例 3 在 3×3 三对角矩阵上把”特征向量 + 重根情形”算穿；示例 4–5 把正定的四条判据与配方法打通；示例 6 给出不定与半正定的反例对照。

示例 1（必做）：$A = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}$ 的完全正交对角化

步骤 1：确认对称。 $a_{12} = a_{21} = 1$，故 $A = A^{\mathsf{T}}$ ✓。

步骤 2：求特征值。 $\det(A - \lambda I) = (2-\lambda)^2 - 1 = \lambda^2 - 4\lambda + 3 = (\lambda - 3)(\lambda - 1) = 0$，得 $\lambda_1 = 3, \qquad \lambda_2 = 1.$ 校验：$\lambda_1 + \lambda_2 = 4 = \operatorname{tr}A$ ✓；$\lambda_1\lambda_2 = 3 = \det A = 4 - 1$ ✓。两者都为正 ⟹ $A$ 正定。

步骤 3：求特征向量。 对 $\lambda_1 = 3$：$(A - 3I)\mathbf{x} = \begin{bmatrix} -1 & 1 \\ 1 & -1 \end{bmatrix}\mathbf{x} = \mathbf{0}$，取 $\mathbf{x}_1 = \begin{bmatrix} 1 \\ 1 \end{bmatrix}$。对 $\lambda_2 = 1$：$(A - I)\mathbf{x} = \begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix}\mathbf{x} = \mathbf{0}$，取 $\mathbf{x}_2 = \begin{bmatrix} 1 \\ -1 \end{bmatrix}$。

步骤 4：验证正交并归一化。 $\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2 = 1 \cdot 1 + 1 \cdot (-1) = 0$ ✓（这是定理 2 的必然结果，不是巧合）。归一化： $\mathbf{q}_1 = \frac{1}{\sqrt2}\begin{bmatrix} 1 \\ 1 \end{bmatrix}, \qquad \mathbf{q}_2 = \frac{1}{\sqrt2}\begin{bmatrix} 1 \\ -1 \end{bmatrix}.$

步骤 5：组装 $Q$ 与 $\Lambda$。 $Q = \frac{1}{\sqrt2}\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}, \qquad \Lambda = \begin{bmatrix} 3 & 0 \\ 0 & 1 \end{bmatrix}.$ 脚本验算 $Q^{\mathsf{T}}Q = \begin{bmatrix} 1 & 0 \\ 0 & 1 \end{bmatrix}$ ✓（数值误差 $0$）。

步骤 6：验证 $Q\Lambda Q^{\mathsf{T}} = A$。 脚本验算得 $Q\Lambda Q^{\mathsf{T}} = \begin{bmatrix} 2.0000 & 1.0000 \\ 1.0000 & 2.0000 \end{bmatrix} = A$ ✓。

步骤 7：秩 1 分解。 $A = 3\mathbf{q}_1\mathbf{q}_1^{\mathsf{T}} + 1\mathbf{q}_2\mathbf{q}_2^{\mathsf{T}} = 3\begin{bmatrix} 0.5 & 0.5 \\ 0.5 & 0.5 \end{bmatrix} + \begin{bmatrix} 0.5 & -0.5 \\ -0.5 & 0.5 \end{bmatrix} = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}.$ 脚本验算 $3\mathbf{q}_1\mathbf{q}_1^{\mathsf{T}} = \begin{bmatrix} 1.5 & 1.5 \\ 1.5 & 1.5 \end{bmatrix}$，$1\mathbf{q}_2\mathbf{q}_2^{\mathsf{T}} = \begin{bmatrix} 0.5 & -0.5 \\ -0.5 & 0.5 \end{bmatrix}$，两者之和恰为 $A$ ✓。

【计算机制解说】：为什么对称矩阵的特征向量一定正交，从而 $Q$ 一定满足 $Q^{-1} = Q^{\mathsf{T}}$？关键在定理 2 的推导：$\lambda_1\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2 = (A\mathbf{x}_1)^{\mathsf{T}}\mathbf{x}_2 = \mathbf{x}_1^{\mathsf{T}}A^{\mathsf{T}}\mathbf{x}_2 = \mathbf{x}_1^{\mathsf{T}}A\mathbf{x}_2 = \lambda_2\mathbf{x}_1^{\mathsf{T}}\mathbf{x}_2$。整个链条里唯一用到对称性的地方是 $A^{\mathsf{T}} = A$（把 $A^{\mathsf{T}}$ 换成 $A$）。若 $A$ 不对称，第三步就断了，特征向量可以任意歪斜，$S^{-1}$ 也就躲不掉。这也解释了为什么”对称”这个看起来只是”少一半自由度”的造型条件，能换来”正交基 + 实特征值”这么大的收益：它让矩阵在主轴坐标系里变成对角阵，而对角阵就是纯伸缩。

示例 2：$A = \begin{bmatrix} 1 & 2 \\ 2 & 1 \end{bmatrix}$——对称矩阵可以有负特征值

步骤 1：特征值。 $\det(A - \lambda I) = (1-\lambda)^2 - 4 = \lambda^2 - 2\lambda - 3 = (\lambda - 3)(\lambda + 1)$，得 $\lambda_1 = 3, \qquad \lambda_2 = -1.$ 校验：和 $= 2 = \operatorname{tr}A$ ✓；积 $= -3 = \det A = 1 - 4$ ✓。脚本验算得 $\{3, -1\}$ ✓。

步骤 2：特征向量。 对 $\lambda = 3$：$\begin{bmatrix} -2 & 2 \\ 2 & -2 \end{bmatrix}\mathbf{x} = \mathbf{0} \Rightarrow \mathbf{q}_1 = \frac{1}{\sqrt2}\begin{bmatrix} 1 \\ 1 \end{bmatrix}$。对 $\lambda = -1$：$\begin{bmatrix} 2 & 2 \\ 2 & 2 \end{bmatrix}\mathbf{x} = \mathbf{0} \Rightarrow \mathbf{q}_2 = \frac{1}{\sqrt2}\begin{bmatrix} 1 \\ -1 \end{bmatrix}$。

步骤 3：正交对角化。 $A = \frac{1}{\sqrt2}\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}\begin{bmatrix} 3 & 0 \\ 0 & -1 \end{bmatrix}\frac{1}{\sqrt2}\begin{bmatrix} 1 & 1 \\ 1 & -1 \end{bmatrix}^{\mathsf{T}}.$ 注意两个例子的 $\mathbf{q}_1, \mathbf{q}_2$ 完全相同（因为两组矩阵的非对角元都是 $+1$，特征向量只取决于 $A$ 本身而非某个特征值），变的是特征值 $\Lambda$。

步骤 4：判定。 有一个负特征值 $\lambda_2 = -1 < 0$，故 $A$ 不是正定，是不定（indefinite）。具体地，取 $\mathbf{x} = \mathbf{q}_2 = \frac{1}{\sqrt2}(1,-1)$，$x^{\mathsf{T}}Ax = \lambda_2\vert \mathbf{x}\vert ^2 = -1 < 0$。反面教材的重要性：对称 $\neq$ 正定。对称只保证”实特征值 + 正交主轴”，正定还要额外要求所有特征值为正。

【计算机制解说】：由 $x^{\mathsf{T}}Ax = \sum_i \lambda_i y_i^2$（$\mathbf{y} = Q^{\mathsf{T}}\mathbf{x}$）可见，$x^{\mathsf{T}}Ax$ 的取值范围就是”各 $\lambda_i$ 的加权平方和”。因此 $x^{\mathsf{T}}Ax$ 的最小值（在 $\vert \mathbf{x}\vert =1$ 上）是 $\lambda_{\min}$，最大值是 $\lambda_{\max}$，且分别在 $\mathbf{x} = \mathbf{q}{\min}$、$\mathbf{q}{\max}$ 处取到。这就是”瑞利商（Rayleigh quotient）”的核心结论：$\frac{x^{\mathsf{T}}Ax}{x^{\mathsf{T}}x}$ 的极值就是特征值。对示例 1，$x^{\mathsf{T}}Ax$ 在单位圆上的范围是 $[1, 3]$；对示例 2 是 $[-1, 3]$——范围跨过 0，就是”不定”的判据。

示例 3（必做）：三对角矩阵 $A = \begin{bmatrix} 2 & -1 & 0 \\ -1 & 2 & -1 \\ 0 & -1 & 2 \end{bmatrix}$

这个矩阵在讲次 11、26 反复出现（它是一维弹簧链 / 一维拉普拉斯算子的刚度矩阵）。

步骤 1：特征值。 展开 $\det(A - \lambda I)$： $\det\begin{bmatrix} 2-\lambda & -1 & 0 \\ -1 & 2-\lambda & -1 \\ 0 & -1 & 2-\lambda \end{bmatrix} = (2-\lambda)\big[(2-\lambda)^2 - 1\big] - (-1)\big[(-1)(2-\lambda) - 0\big].$ 化简令 $t = 2 - \lambda$：$t(t^2 - 1) - t = t^3 - 2t = t(t^2 - 2) = 0$，故 $t = 0, \pm\sqrt2$，即 $\lambda = 2 - \sqrt2 \approx 0.585786, \qquad \lambda = 2, \qquad \lambda = 2 + \sqrt2 \approx 3.414214.$ 脚本验算：$2 - \sqrt2 = 0.5857864376$，$2 + \sqrt2 = 3.4142135624$ ✓。校验：$\operatorname{tr}A = 6 = 0.585786 + 2 + 3.414214$ ✓；$\det A = 4 = (2-\sqrt2)\cdot 2 \cdot (2+\sqrt2) = 2(4-2) = 4$ ✓。三个特征值全为正 ⟹ 该矩阵正定。

步骤 2：特征向量。 对 $(A - \lambda I)\mathbf{v} = \mathbf{0}$，写出三行： $\begin{aligned} \text{第 1 行：}\quad & (2-\lambda)v_1 - v_2 = 0 &&\Longrightarrow\ v_2 = (2-\lambda)v_1,\\ \text{第 2 行：}\quad & -v_1 + (2-\lambda)v_2 - v_3 = 0,\\ \text{第 3 行：}\quad & -v_2 + (2-\lambda)v_3 = 0 &&\Longrightarrow\ v_2 = (2-\lambda)v_3. \end{aligned}$ 第 1、3 行联立给出 $(2-\lambda)(v_1 - v_3) = 0$。必须分两种情形讨论——这里正是容易出错的地方：

情形 A：$\lambda \neq 2$（即 $\lambda = 2 \mp \sqrt2$）。此时 $2 - \lambda \neq 0$，故 $v_3 = v_1$，再由 $v_2 = (2-\lambda)v_1$。取 $v_1 = 1$： $\mathbf{v}_1 = \begin{bmatrix} 1 \\ \sqrt2 \\ 1 \end{bmatrix}\ (\lambda = 2-\sqrt2), \qquad \mathbf{v}_3 = \begin{bmatrix} 1 \\ -\sqrt2 \\ 1 \end{bmatrix}\ (\lambda = 2+\sqrt2).$
情形 B：$\lambda = 2$。此时第 1 行变成 $-v_2 = 0$，即 $v_2 = 0$；第 2 行变成 $-v_1 - v_3 = 0$，即 $v_3 = -v_1$。取 $v_1 = 1$： $\mathbf{v}_2 = \begin{bmatrix} 1 \\ 0 \\ -1 \end{bmatrix}\ (\lambda = 2).$ 注意不能沿用情形 A 的 “$v_3 = v_1$”，因为那个结论来自 $(2-\lambda)(v_1-v_3)=0$ 中除以 $2-\lambda$，而 $\lambda = 2$ 时这个因子为零。

步骤 3：逐项验算 $A\mathbf{v}_i = \lambda_i\mathbf{v}_i$。

$\lambda_1 = 2-\sqrt2$，$\mathbf{v}_1 = (1,\sqrt2,1)$：$A\mathbf{v}_1 = (2-\sqrt2,\ 2\sqrt2 - 2,\ 2-\sqrt2) = (0.5857864, 0.8284271, 0.5857864)$，而 $\lambda_1\mathbf{v}_1 = (0.5857864)(1,\sqrt2,1)$ 完全相同 ✓（脚本验算一致）。
$\lambda_2 = 2$，$\mathbf{v}_2 = (1,0,-1)$：$A\mathbf{v}_2 = (2\cdot1 - 0 + 0,\ -1 + 0 + 1,\ 0 - 0 - 2) = (2, 0, -2)^{\mathsf{T}} = 2\mathbf{v}_2$ ✓（脚本验算一致）。
$\lambda_3 = 2+\sqrt2$，$\mathbf{v}_3 = (1,-\sqrt2,1)$：$A\mathbf{v}_3 = (2+\sqrt2,\ -2\sqrt2-2,\ 2+\sqrt2) = (3.4142136, -4.8284271, 3.4142136)$，与 $\lambda_3\mathbf{v}_3$ 一致 ✓。

步骤 4：归一化并组装 $Q$。 $\vert \mathbf{v}_1\vert ^2 = 1 + 2 + 1 = 4 \Rightarrow \vert \mathbf{v}_1\vert = 2$；$\vert \mathbf{v}_2\vert ^2 = 1 + 0 + 1 = 2 \Rightarrow \vert \mathbf{v}_2\vert = \sqrt2$；$\vert \mathbf{v}_3\vert ^2 = 4 \Rightarrow \vert \mathbf{v}_3\vert = 2$。故 $\mathbf{q}_1 = \frac{1}{2}\begin{bmatrix} 1 \\ \sqrt2 \\ 1 \end{bmatrix}, \qquad \mathbf{q}_2 = \frac{1}{\sqrt2}\begin{bmatrix} 1 \\ 0 \\ -1 \end{bmatrix}, \qquad \mathbf{q}_3 = \frac{1}{2}\begin{bmatrix} 1 \\ -\sqrt2 \\ 1 \end{bmatrix}.$ 脚本验算三组内积：$\mathbf{q}_1^{\mathsf{T}}\mathbf{q}_2 = 0$，$\mathbf{q}_1^{\mathsf{T}}\mathbf{q}_3 = 0$，$\mathbf{q}_2^{\mathsf{T}}\mathbf{q}_3 = 0$ ✓；$Q^{\mathsf{T}}Q = I$ ✓；$Q\Lambda Q^{\mathsf{T}} = A$ ✓（全部精确到 $10^{-9}$）。

步骤 5：秩 1 展开验算。 脚本计算 $\sum_i \lambda_i\mathbf{q}_i\mathbf{q}_i^{\mathsf{T}}$ 得 $\begin{bmatrix} 2.000000 & -1.000000 & 0.000000 \\ -1.000000 & 2.000000 & -1.000000 \\ 0.000000 & -1.000000 & 2.000000 \end{bmatrix} = A \quad ✓$

步骤 6：正定性结论。 特征值 $0.585786,\ 2,\ 3.414214$ 全为正 ⟹ $A$ 正定。顺序主子式 $D_1 = 2,\ D_2 = 2\cdot2 - 1 = 3,\ D_3 = \det A = 4$（脚本验算：$2, 3, 4$），全正 ✓；主元 $d_1 = 2$，$d_2 = 2 - \frac{1}{2} = \frac32$，$d_3 = 2 - \frac{1}{3/2} = 2 - \frac23 = \frac43$（脚本验算：$2, 1.5, 1.333333$），全正 ✓。三套判据完全一致，且 $d_1d_2d_3 = 2\cdot\frac32\cdot\frac43 = 4 = D_3$ ✓。

【计算机制解说】：三对角矩阵的特征值 $\lambda_k = 2 - 2\cos\frac{k\pi}{4}$（$k=1,2,3$）给出 $2 - \sqrt2,\ 2,\ 2+\sqrt2$——这是讲次 26 中”弹簧-质点系统”的一般公式。为什么鼓励用三对角矩阵做例子？因为它的特征向量具有正弦波的形状（$\sin\frac{k\pi}{4}$ 的采样），物理上对应弹簧链的振动模态：$\lambda$ 小 = 低频慢振动（整体同向摆动），$\lambda$ 大 = 高频快振动（相邻质量反向）。特征值全为正，物理含义就是”弹簧刚度矩阵正定 = 系统稳定、有唯一平衡位置”。这也是正定性最直观的应用场景。

正定的四个等价判据与手算演示

严格陈述（$A$ 为实对称矩阵，以下五条互相等价，可任选一条判正定）：

\[\boxed{\ \forall \mathbf{x}\neq\mathbf{0}:\ x^{\mathsf{T}}Ax > 0\ \Longleftrightarrow\ \text{①}\ \lambda_i > 0\ \forall i\ \Longleftrightarrow\ \text{②}\ D_1,\dots,D_n > 0\ \Longleftrightarrow\ \text{③}\ d_1,\dots,d_n > 0\ \Longleftrightarrow\ \text{④}\ A = R^{\mathsf{T}}R,\ R\ \text{列满秩}\ }\]

其中 $D_k$ 是顺序主子式（leading principal minors）——左上角 $k\times k$ 子块的行列式；$d_k$ 是消元后的主元（pivots）。它们为什么等价？ 链条是这样的：$x^{\mathsf{T}}Ax = \sum_i \lambda_i y_i^2$（$\mathbf{y} = Q^{\mathsf{T}}\mathbf{x}$，$\vert \mathbf{y}\vert = \vert \mathbf{x}\vert $）直接给出 ①；配方法 $x^{\mathsf{T}}Ax = \sum_i d_i(\text{配方项})^2$ 直接给出 ③，而配方每一项的系数都是正 ⟺ 所有主元正；行列式的乘法法则给出 $D_k = d_1d_2\cdots d_k$，故 $D_k$ 全正 ⟺ $d_k$ 全正，即 ②；$A = R^{\mathsf{T}}R$ 且 $R$ 列满秩时，$x^{\mathsf{T}}Ax = \vert R\mathbf{x}\vert ^2 > 0$（$R\mathbf{x} = \mathbf{0}$ 只有零解），反向则通过 Cholesky 分解 $A = R^{\mathsf{T}}R$ 与 $d_k > 0$ 互相推出，即 ④。

四条判据的实用场景不同——这是 Strang 反复强调的”工具箱”意识：

判据	适合场合	代价 / 优点
① 特征值 $\lambda_i > 0$	理论推导、几何解释（椭球、瑞利商）	需要求全部特征值，数值代价 $O(n^3)$，但概念最清楚
② 顺序主子式 $D_k > 0$	手算小矩阵、竞赛与考试	$n$ 个行列式，$n$ 稍大就爆炸（$O(n!)$ 如果硬展开）
③ 主元 $d_k > 0$	数值计算、实际程序（Gaussian 消元）	只需一次消元 $O(n^3/3)$，最便宜，且不需要算特征值或行列式；不换行本身也自动被验证
④ $A = R^{\mathsf{T}}R$（$R$ 列满秩）	分解 / 最小二乘 / 优化	给出可用的”平方根”，让 $\vert R\mathbf{x}\vert ^2$ 替代 $x^{\mathsf{T}}Ax$，是 Cholesky 与 QR 的桥梁

示例 4（必做）：$A = \begin{bmatrix} 2 & 6 \\ 6 & 20 \end{bmatrix}$——四条判据全部走一遍

判据 ①（特征值）：$\operatorname{tr}A = 22$，$\det A = 2\cdot20 - 6^2 = 40 - 36 = 4$。特征方程 $\lambda^2 - 22\lambda + 4 = 0$，判别式 $22^2 - 4\cdot4 = 484 - 16 = 468 = 4\cdot117$，故 $\lambda = \frac{22 \pm \sqrt{468}}{2} = 11 \pm \sqrt{117} \approx 11 \pm 10.816654 = 21.816654\ \text{与}\ 0.183346.$ 脚本验算得 $21.8166538$ 与 $0.1833462$ ✓。两者均为正 ⟹ 正定。校验：和 $= 22 = \operatorname{tr}A$ ✓，积 $= 121 - 117 = 4 = \det A$ ✓。

判据 ②（顺序主子式）：$D_1 = 2 > 0$ ✓；$D_2 = \det A = 4 > 0$ ✓ ⟹ 正定（脚本验算：$2, 4$）。

判据 ③（主元）：消元第一步用 $2$ 消去 $a_{21} = 6$，乘数 $\ell = 6/2 = 3$： $\begin{bmatrix} 2 & 6 \\ 6 & 20 \end{bmatrix} \longrightarrow \begin{bmatrix} 2 & 6 \\ 0 & 20 - 3\cdot6 \end{bmatrix} = \begin{bmatrix} 2 & 6 \\ 0 & 2 \end{bmatrix}.$ 主元 $d_1 = 2$，$d_2 = 2$，均为正 ✓。校验 $d_1d_2 = 4 = D_2 = \det A$ ✓（脚本验算：主元 $2, 2$）。

判据 ④（$A = R^{\mathsf{T}}R$）：设 $R = \begin{bmatrix} r_{11} & r_{12} \\ 0 & r_{22} \end{bmatrix}$（对角元取正）。由 $R^{\mathsf{T}}R = \begin{bmatrix} r_{11}^2 & r_{11}r_{12} \\ r_{11}r_{12} & r_{12}^2 + r_{22}^2 \end{bmatrix}$ 逐项比对：

$r_{11}^2 = 2 \Rightarrow r_{11} = \sqrt2$；
$r_{11}r_{12} = 6 \Rightarrow r_{12} = 6/\sqrt2 = 3\sqrt2$；
$r_{12}^2 + r_{22}^2 = 20 \Rightarrow r_{22}^2 = 20 - 18 = 2 \Rightarrow r_{22} = \sqrt2$。

故 $R = \begin{bmatrix} \sqrt2 & 3\sqrt2 \\ 0 & \sqrt2 \end{bmatrix}, \qquad R^{\mathsf{T}}R = \begin{bmatrix} 2 & 6 \\ 6 & 18+2 \end{bmatrix} = \begin{bmatrix} 2 & 6 \\ 6 & 20 \end{bmatrix} = A\ ✓$ （脚本验算 $R^{\mathsf{T}}R$ 精确得到 $A$。）注意 $r_{11}^2 = d_1 = 2$，$r_{22}^2 = d_2 = 2$——$R$ 的对角元就是主元的平方根。

【计算机制解说】：为什么四条判据本质上”是同一件事”？看配方法： $x^{\mathsf{T}}Ax = 2x_1^2 + 12x_1x_2 + 20x_2^2 = 2\left(x_1 + 3x_2\right)^2 + 2x_2^2.$ （检查：$2x_1^2 + 12x_1x_2 + 18x_2^2 + 2x_2^2 = 2x_1^2 + 12x_1x_2 + 20x_2^2$ ✓。注意交叉项系数 $12 = 2a_{12}$，别忘那个 2！）配方项 $\left(x_1 + 3x_2\right)$ 里的系数 $3$ 正是消元的乘数 $\ell = 3$，两个平方项系数 $2$ 与 $2$ 正是两个主元 $d_1, d_2$。所以”消元、配方、顺序主子式、特征值符号”是同一个数学事实的四种表现：$x^{\mathsf{T}}Ax$ 可以写成”正系数 × 独立线性型的平方”之当且仅当所有主元正。更精确地， $x^{\mathsf{T}}Ax = d_1(\text{第 1 个配方})^2 + d_2(\text{第 2 个配方})^2 + \cdots + d_n(\text{第 }n\text{ 个配方})^2,$ 而完整的消元给出 $A = LDL^{\mathsf{T}}$（讲次 4 的对称版），$d_i$ 就是 $D$ 的对角元；每个 $d_i > 0$ 时把 $\sqrt{d_i}$ 提出来就得到 $A = R^{\mathsf{T}}R$。这就是判据 ③ ⟺ ④ 的机制。

示例 5：$A = \begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix}$——配方法与主元的”同一件事”（重点演示）

步骤 1：写出二次型。 $x^{\mathsf{T}}Ax = 2x_1^2 - 2x_1x_2 + 2x_2^2$。

步骤 2：配方。 先把含 $x_1$ 的项凑成完全平方： $2x_1^2 - 2x_1x_2 = 2\left(x_1^2 - x_1x_2\right) = 2\left(x_1 - \frac{x_2}{2}\right)^2 - 2\cdot\frac{x_2^2}{4} = 2\left(x_1 - \frac{x_2}{2}\right)^2 - \frac{x_2^2}{2}.$ 补回剩下的 $2x_2^2$： $x^{\mathsf{T}}Ax = 2\left(x_1 - \frac{x_2}{2}\right)^2 - \frac{x_2^2}{2} + 2x_2^2 = 2\left(x_1 - \frac{x_2}{2}\right)^2 + \frac{3}{2}x_2^2.$ 脚本验算展开系数：$x_1^2$ 项 $= 2$ ✓；$x_1x_2$ 项 $= 2\cdot2\cdot(-\frac12) = -2$ ✓；$x_2^2$ 项 $= 2\cdot\frac14 + \frac32 = \frac12 + \frac32 = 2$ ✓。三项全部匹配。

步骤 3：对照消元。 消元：主元 $d_1 = 2$；乘数 $\ell_{21} = \frac{-1}{2} = -\frac12$；$d_2 = 2 - \frac{(-1)^2}{2} = 2 - \frac12 = \frac32 = 1.5$（脚本验算 ✓）。于是 $\begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix} = \begin{bmatrix} 1 & 0 \\ -\tfrac12 & 1 \end{bmatrix}\begin{bmatrix} 2 & 0 \\ 0 & \tfrac32 \end{bmatrix}\begin{bmatrix} 1 & -\tfrac12 \\ 0 & 1 \end{bmatrix} = LDL^{\mathsf{T}}.$

步骤 4：结论。 两个平方项系数 $2$ 与 $\frac32$ 恰好是两个主元，且都为正 ⟹ $A$ 正定 ✓。特征值 $1, 3$ 也全正（脚本验算 ✓），互相印证。

【计算机制解说】：配方法之所以与消元是”同一件事”，是因为消元本质上就是对二次型做可逆的线性替换（合同变换）。消元第 $k$ 步把 $x_k$ 从后续方程中消掉，对应到二次型上就是把”含 $x_k$ 的项”配成完全平方；消元的乘数 $\ell_{ik}$ 就是配方时那个线性型 $\left(x_k + \sum_{i>k}\ell_{ik}x_i\right)$ 的系数。配方后的平方项系数（即 $D$ 的对角元 $d_k$）在合同变换下保持符号不变（Sylvester 惯性定律），所以”主元全正 ⟺ 二次型恒正”。这也解释了为什么必须不换行：换行只是重排变量顺序，会改变”哪些是顺序主子式”，但不会改变正定性——所以 Sylvester 判据要求”从头到尾不换行也能把所有主元算正”，这样顺序主子式才有资格充当判据。

示例 6：反例与半正定

(a) 非正定（不定）：$A = \begin{bmatrix} 1 & 3 \\ 3 & 1 \end{bmatrix}$。$D_1 = 1 > 0$，但 $D_2 = \det A = 1 - 9 = -8 < 0$ ⟹ 判据 ② 失败，非正定（脚本验算 $-8$ ✓）。特征值：$\lambda^2 - 2\lambda - 8 = 0 \Rightarrow \lambda = 4, -2$（脚本验算 ✓），一正一负 ⟹ 不定（indefinite）。直接验证：$\mathbf{x} = (1,-1)$ 时 $x^{\mathsf{T}}Ax = 1 - 6 + 1 = -4 < 0$（脚本验算 $-4$ ✓）。注意它的对角元 $1, 1$ 都是正的——对角元正完全挡不住非对角元的破坏。

(b) 半正定但非正定：$A = \begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix}$。$x^{\mathsf{T}}Ax = x_1^2 + 2x_1x_2 + x_2^2 = (x_1 + x_2)^2 \geq 0$，永远非负 ⟹ 半正定。但 $\mathbf{x} = (1,-1)$ 时等于 $0$（脚本验算 ✓），故不正定。特征值 $2, 0$（脚本验算 ✓），$\det = 0$，$D_2 = 0$ 不满足”$>0$”⟹ 非正定（只满足”$\geq 0$”）。几何上 $x^{\mathsf{T}}Ax = 1$ 退化成两条平行直线（柱面），因为沿 $\mathbf{q}_2 = \frac{1}{\sqrt2}(1,-1)$ 方向二次型恒为 $0$——能量有”零代价方向”。

(c) 半正定的判据：把四个判据里的”$>0$”全部换成”$\geq 0$”，并且②要换成所有主子式（不只是顺序主子式）$\geq 0$（见常见误区 ②）。

$A^{\mathsf{T}}A$ 总是半正定（并给出最小二乘的唯一性）

定理：对任意实矩阵 $A$（$m\times n$，不必是方阵），$A^{\mathsf{T}}A$ 是 $n\times n$ 对称半正定矩阵；若 $A$ 的列线性无关（列满秩，$\operatorname{rank}A = n$），则 $A^{\mathsf{T}}A$ 正定。

证明（一行机制）：对任意 $\mathbf{x} \in \mathbb{R}^n$， $\mathbf{x}^{\mathsf{T}}(A^{\mathsf{T}}A)\mathbf{x} = (A\mathbf{x})^{\mathsf{T}}(A\mathbf{x}) = \vert A\mathbf{x}\vert ^2 \geq 0.$

对称性：$(A^{\mathsf{T}}A)^{\mathsf{T}} = A^{\mathsf{T}}A$ ✓，天生对称。
等号何时成立：$\vert A\mathbf{x}\vert ^2 = 0 \Leftrightarrow A\mathbf{x} = \mathbf{0} \Leftrightarrow \mathbf{x} \in N(A)$。这正是讲次 14 的结论 $N(A^{\mathsf{T}}A) = N(A)$——用本讲的语言，它是”半正定性的零空间刻画”。
正定性：$A$ 列满秩 $\Leftrightarrow N(A) = \{\mathbf{0}\}$ $\Leftrightarrow$ 只有 $\mathbf{x} = \mathbf{0}$ 使 $\vert A\mathbf{x}\vert ^2 = 0$ $\Leftrightarrow$ $\mathbf{x}^{\mathsf{T}}A^{\mathsf{T}}A\mathbf{x} > 0$ 对一切 $\mathbf{x} \neq \mathbf{0}$ 成立 ⟹ $A^{\mathsf{T}}A$ 正定。$\blacksquare$

回扣讲次 16（最小二乘）：法方程 $A^{\mathsf{T}}A\hat{\mathbf{x}} = A^{\mathsf{T}}\mathbf{b}$ 的系数矩阵总是半正定；当 $A$ 列满秩时它正定，故可逆，最小二乘解 $\hat{\mathbf{x}} = (A^{\mathsf{T}}A)^{-1}A^{\mathsf{T}}\mathbf{b}\ \text{唯一}.$ 数值实践上不应真的求逆，而应用 Cholesky（$A^{\mathsf{T}}A = R^{\mathsf{T}}R$）或 QR 分解（讲次 17）来解——因为正定性保证了 Cholesky 一定成功（不换行、无开方负数）。

数值算例（脚本验算）：$A = \begin{bmatrix} 1 & 2 \\ 3 & 4 \\ 5 & 6 \end{bmatrix}$（$3\times2$，两列不成比例故列满秩）： $A^{\mathsf{T}}A = \begin{bmatrix} 35 & 44 \\ 44 & 56 \end{bmatrix},\quad D_1 = 35 > 0,\quad D_2 = 35\cdot56 - 44^2 = 1960 - 1936 = 24 > 0\ \Rightarrow\ \text{正定}\ ✓$ 特征值 $\lambda \approx 90.735495$ 与 $0.264505$，均正 ✓（脚本验算）。条件数约 $343$，说明法方程虽然可解但病态——这从数值上再次呼唤 QR 而非法方程。

对偶算例：$M = \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{bmatrix}$（$2\times3$，$3$ 列在 $\mathbb{R}^2$ 中必相关）： $M^{\mathsf{T}}M = \begin{bmatrix} 17 & 22 & 27 \\ 22 & 29 & 36 \\ 27 & 36 & 45 \end{bmatrix},\qquad \det(M^{\mathsf{T}}M) = 0,$ 半正定但奇异（脚本验算 ✓）。取 $\mathbf{x} = (1,-2,1)$ 则 $M\mathbf{x} = \mathbf{0}$，故 $x^{\mathsf{T}}M^{\mathsf{T}}Mx = 0$，直接展示”零代价方向”。

正定性的应用图景

极小值（讲次 27）：$f(\mathbf{x})$ 在临界点 $\mathbf{x}_0$ 处的 Hessian $H = \left[\frac{\partial^2 f}{\partial x_i\partial x_j}\right]$ 是对称矩阵。$H$ 正定 ⟺ 该临界点是局部极小点；$H$ 负定 ⟺ 极大点；$H$ 不定 ⟺ 鞍点；$H$ 半正定但奇异 ⟺ 二阶检验失效，需看更高阶项。原因是二阶 Taylor 展开 $f(\mathbf{x}_0 + \Delta) \approx f(\mathbf{x}_0) + \frac12\Delta^{\mathsf{T}}H\Delta$（一阶项为零），而 $\Delta^{\mathsf{T}}H\Delta > 0$ 恰好保证”往任何方向走都变大”。四条判据在这里都直接可用：判据 ③（主元）是实际代码中最常用的。
最小二乘的 $A^{\mathsf{T}}A$（讲次 14、16）：如上节，$A^{\mathsf{T}}A$ 半正定且列满秩时正定，保证 $\hat{\mathbf{x}}$ 唯一。几何上 $\vert A\mathbf{x} - \mathbf{b}\vert ^2 = \mathbf{x}^{\mathsf{T}}A^{\mathsf{T}}A\mathbf{x} - 2\mathbf{b}^{\mathsf{T}}A\mathbf{x} + \mathbf{b}^{\mathsf{T}}\mathbf{b}$ 是一个”正定二次 + 线性项”，是标准的凸碗，唯一最低点。
弹簧系统与势能（讲次 26）：$n$ 个质量、$n+1$ 个弹簧的势能 $\frac12\mathbf{x}^{\mathsf{T}}K\mathbf{x}$（$\mathbf{x}$ 为位移），$K$ 是刚度矩阵（本讲示例 3 的三对角矩阵就是 $n=3$ 的情形）。$K$ 正定 ⟺ 系统稳定、有唯一平衡位置；某个 $\lambda = 0$ 意味着存在”零能量形变”（自由运动模式），系统不稳定或欠约束。示例 3 中 $K$ 的特征值 $0.586, 2, 3.414$ 全正，故稳定。
协方差矩阵与 PCA：数据矩阵 $X$（每列一个样本，已中心化）的协方差矩阵 $C = \frac{1}{N-1}X^{\mathsf{T}}X$，由上面的定理它总是半正定（形状即 $A^{\mathsf{T}}A$），且样本数多于维数且无退化时正定。PCA 就是求 $C$ 的谱分解 $C = Q\Lambda Q^{\mathsf{T}}$：主成分方向 = 特征向量 $\mathbf{q}_i$，方差 = 特征值 $\lambda_i$。“方差非负”这个显然的事实，其数学表述正是”半正定”。$x^{\mathsf{T}}Cx$ 就是 $\mathbf{x}$ 方向的方差——这也是瑞利商的应用。

矩阵分解的核心思想

本讲是分解思想的高峰，两条主线交汇：

主线一：对称 ⟹ $A = Q\Lambda Q^{\mathsf{T}}$（谱定理，讲次 22 的完美化）

对比项	一般可对角化（讲次 22）	对称矩阵（本讲）
分解形式	$A = S\Lambda S^{-1}$	$A = Q\Lambda Q^{\mathsf{T}}$
$S$ 的列	仅线性无关	正交单位向量
逆矩阵	需真的求 $S^{-1}$	$Q^{-1} = Q^{\mathsf{T}}$（免费）
特征值	可能复数	一定是实数
重根情形	可能缺特征向量（缺陷矩阵）	永不缺陷，一定够 $n$ 个正交特征向量
数值稳定性	可能病态	极稳定（正交变换保长度）

主线二：正定 ⟹ $A = R^{\mathsf{T}}R$（Cholesky，讲次 27 的主角）

若 $A$ 正定，则它是 $A = LU$ 的”对称化”，可以取 $U = DR^{\mathsf{T}}$ 形式（回顾讲次 4 的 $LDU$ 分解），把 $D$ 的平方根吸收进 $R$，得到 $A = R^{\mathsf{T}}R, \qquad R = \sqrt{D}\,L^{\mathsf{T}}\ \text{为上三角且对角元为正}.$

这就是 Cholesky 分解：消元不换行，主元 $d_i > 0$，故 $\sqrt{d_i}$ 是实数。
$A = R^{\mathsf{T}}R$ 与 $A = Q\Lambda Q^{\mathsf{T}}$ 的关系：$R = \Lambda^{1/2}Q^{\mathsf{T}}$（把伸缩的平方根与旋转合并），所以 $R^{\mathsf{T}}R = Q\Lambda^{1/2}\Lambda^{1/2}Q^{\mathsf{T}} = Q\Lambda Q^{\mathsf{T}} = A$ ✓。
判别意义：存在列满秩的 $R$ 使 $A = R^{\mathsf{T}}R$ ⟺ $A$ 正定（当 $R$ 允许奇异时对应半正定）。

与 SVD 的接头（讲次 29）：一般矩阵的 SVD 是 $A = U\Sigma V^{\mathsf{T}}$，两组不同的正交基 $\mathbf{u}_i, \mathbf{v}_i$。若 $A$ 对称正定，则 $U = V = Q$ 且 $\sigma_i = \lambda_i$，SVD 退化为 $A = Q\Lambda Q^{\mathsf{T}}$。所以谱定理是 SVD 的”对称特例”，而 SVD 是”给非对称矩阵也找一组正交主轴”的努力（代价是要两组基）。另一个接头：因为 $A^{\mathsf{T}}A$ 对称半正定，由 $A = U\Sigma V^{\mathsf{T}}$ 得 $A^{\mathsf{T}}A = V\Sigma^2V^{\mathsf{T}}$，即 $V$ 恰好是 $A^{\mathsf{T}}A$ 的正交特征向量矩阵，且 $\sigma_i^2 = \lambda_i(A^{\mathsf{T}}A)$——本讲的谱定理正是构造 SVD 的引擎。

与其他讲次的关联

讲次 21（特征值与特征向量）：本讲证明两个定理（实特征值、正交特征向量）时反复使用 $\det(A-\lambda I)=0$、迹与行列式的校验（$\sum\lambda_i = \operatorname{tr}A$，$\prod\lambda_i = \det A$）。示例 1、2、3 都做了这组校验。
讲次 22（对角化 $A = S\Lambda S^{-1}$）：对称情形把 $S$ 升级为 $Q$，$S^{-1}$ 变成 $Q^{\mathsf{T}}$，这是”最理想的可对角化”。
讲次 23（对称矩阵与微分方程）：那里用对称矩阵解 $\frac{d\mathbf{u}}{dt} = A\mathbf{u}$，实特征值保证解是指数函数（无振荡），正交特征向量保证解可以干净地写成 $\mathbf{u}(t) = \sum c_i e^{\lambda_i t}\mathbf{q}_i$。
讲次 27（正定与极小值）：二阶导数检验 $\frac{\partial^2 f}{\partial x_i \partial x_j}$ 构成 Hessian 矩阵 $H$；$H$ 正定 ⟺ 临界点是极小点，$H$ 不定 ⟺ 鞍点，$H$ 半正定但奇异 ⟺ 需要更高阶信息。本讲的四个判据在那里直接落地。
讲次 28（相似矩阵与 Jordan 形）：Jordan 形的存在正是因为”不可对角化”可能发生；对称矩阵永远不会落到那种境地，所以对称矩阵没有 Jordan 块（所有块都是 $1\times1$）。
讲次 29（SVD）：如上节所述，当 $A$ 对称正定时 $\sigma_i = \lambda_i$ 且 $U = V = Q$，SVD 退化为谱分解；一般情形的 SVD 则靠对 $A^{\mathsf{T}}A$ 用本讲的谱定理造出来。
讲次 14 / 16（正交、$A^{\mathsf{T}}A$、最小二乘）：$N(A^{\mathsf{T}}A) = N(A)$（讲次 14）保证 $A$ 列满秩时 $A^{\mathsf{T}}A$ 可逆；$A^{\mathsf{T}}A$ 正定（本讲第 8 点严格证明）保证最小二乘 $\hat{\mathbf{x}} = (A^{\mathsf{T}}A)^{-1}A^{\mathsf{T}}\mathbf{b}$ 有唯一解，且法方程可以用 Cholesky 稳定求解（而非直接求逆）。
讲次 11 / 15（矩阵空间、投影）：$\mathbf{q}_i\mathbf{q}_i^{\mathsf{T}}$ 是讲次 15 的投影矩阵 $P = \frac{\mathbf{a}\mathbf{a}^{\mathsf{T}}}{\mathbf{a}^{\mathsf{T}}\mathbf{a}}$ 在 $\vert \mathbf{q}_i\vert =1$ 时的特例（$P = \mathbf{q}\mathbf{q}^{\mathsf{T}}$），满足 $P^2 = P = P^{\mathsf{T}}$、秩为 1。

关键要点

对称矩阵的两大定理 + 谱定理：$A = A^{\mathsf{T}}$ ⟹ ① 所有特征值为实数；② 不同特征值的特征向量正交；③ 一定能正交对角化 $A = Q\Lambda Q^{\mathsf{T}}$，$Q^{-1} = Q^{\mathsf{T}}$。重根情形也成立（在重根的特征空间内部再取正交基）。
秩 1 展开：$A = \sum_{i=1}^{n}\lambda_i\mathbf{q}_i\mathbf{q}_i^{\mathsf{T}}$。每个 $\mathbf{q}_i\mathbf{q}_i^{\mathsf{T}}$ 是秩 1 投影矩阵，$A$ = 沿 $n$ 条正交主轴的”投影 × 伸缩”之和；这也说明”$A$ 的秩 = 非零特征值个数”。
正定的定义与四等价判据（$A$ 对称）：$\forall \mathbf{x} \neq \mathbf{0},\ x^{\mathsf{T}}Ax > 0$ ⟺ ① 所有 $\lambda_i > 0$ ⟺ ② 所有顺序主子式（左上角 $1\times1, 2\times2, \dots, n\times n$ 的行列式）$> 0$ ⟺ ③ 消元后所有主元 $d_i > 0$（不换行）⟺ ④ 存在列满秩的 $R$ 使 $A = R^{\mathsf{T}}R$。半正定则把”$>0$”换成”$\geq 0$”，并允许等号与奇异性。
$A^{\mathsf{T}}A$ 永远半正定，且列满秩时正定：$x^{\mathsf{T}}A^{\mathsf{T}}Ax = \vert A\mathbf{x}\vert ^2 \geq 0$；$=0 \Leftrightarrow A\mathbf{x} = \mathbf{0} \Leftrightarrow \mathbf{x} \in N(A)$，故 $N(A^{\mathsf{T}}A) = N(A)$（讲次 14），$A$ 列满秩 ⟹ 只有 $\mathbf{x}=\mathbf{0}$ 使之为零 ⟹ 正定。
配方法的平方项系数恰好是消元主元：$x^{\mathsf{T}}Ax = \sum_i d_i(\text{第 }i\text{ 个配方})^2$。所以”配方法 / 消元 / 顺序主子式 / 特征值符号”是同一件事的四种面孔。

常见误区与注意事项

忘记”正定”必须先要求对称。 严格地说，$x^{\mathsf{T}}Ax > 0$ 只是”二次型正定”；为保证 $A$ 唯一，习惯上把 $A$ 取成对称部分 $\frac{A + A^{\mathsf{T}}}{2}$。把任何方阵拆成 $A = \underbrace{\frac{A+A^{\mathsf{T}}}{2}}{\text{对称}} + \underbrace{\frac{A-A^{\mathsf{T}}}{2}}{\text{反称}}$，反称部分 $K$ 满足 $K^{\mathsf{T}} = -K$，于是 $x^{\mathsf{T}}Kx = (x^{\mathsf{T}}Kx)^{\mathsf{T}} = x^{\mathsf{T}}K^{\mathsf{T}}x = -x^{\mathsf{T}}Kx$，故 $x^{\mathsf{T}}Kx = 0$ 恒成立。因此 $x^{\mathsf{T}}Ax$ 只依赖对称部分：脚本验算 $B = \begin{bmatrix} 1 & 4 \\ 2 & 3 \end{bmatrix}$ 与 $\frac{B+B^{\mathsf{T}}}{2} = \begin{bmatrix} 1 & 3 \\ 3 & 3 \end{bmatrix}$ 在 $\mathbf{x} = (1,1)$ 处都给出 $x^{\mathsf{T}}Bx = 10$（反称部分 $\begin{bmatrix} 0 & 1 \\ -1 & 0 \end{bmatrix}$ 贡献为 $0$）。所以谈”正定”时不先对称化是定义不清。
混淆”所有顺序主子式 $>0$”与”所有主子式 $>0$”。 Sylvester 判据只要求顺序主子式（左上角那一串）。若把条件错记成”所有 $k\times k$ 主子式（任意挑 $k$ 个行列）都为正”，那是半正定的判据，会漏掉或误判。例如 $A = \begin{bmatrix} 0 & 0 \\ 0 & 1 \end{bmatrix}$ 的所有主子式 $\geq 0$（一阶两个：$a_{11}=0$、$a_{22}=1$；二阶一个：$\det A=0$，即 $0,1,0$）但顺序主子式第一个就是 $0$，故它只是半正定，不正定。
以为正定矩阵的对角元必须”很大”。 对角元 $a_{ii} = \mathbf{e}_i^{\mathsf{T}}A\mathbf{e}_i > 0$ 是必要条件但远不充分。$A = \begin{bmatrix} 1 & 3 \\ 3 & 1 \end{bmatrix}$ 对角元都是 $1 > 0$，但 $\det = -8 < 0$，特征值 $4$ 与 $-2$，$x^{\mathsf{T}}Ax$ 在 $\mathbf{x}=(1,-1)$ 处等于 $-4 < 0$，不定。对角元管不了非对角元的破坏力。
以为”半正定 = 正定”。 $A = \begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix}$：特征值 $2, 0$，$\det = 0$，$x^{\mathsf{T}}Ax = (x_1 + x_2)^2 \geq 0$，沿 $\mathbf{x} = (1,-1)$ 取到 $0$，脚本验算 ✓。它是半正定但奇异，不可逆；对应几何上的”柱面”而非椭球。正定一定可逆，半正定可以不可逆。
把 $x^{\mathsf{T}}Ax$ 当成一般二次函数，忘记交叉项系数要减半。 二次型 $x^{\mathsf{T}}Ax = \sum_i a_{ii}x_i^2 + 2\sum_{i<j}a_{ij}x_ix_j$，交叉项系数是 $A$ 中对应元素的 2 倍。例如 $A = \begin{bmatrix} 2 & 6 \\ 6 & 20 \end{bmatrix}$ 对应 $2x_1^2 + 12x_1x_2 + 20x_2^2$，不是 $+6x_1x_2$。判正定前先把二次型写成对称矩阵形式，能避免大量符号错误。

思考题（带答案）

Q1（计算题：用四判据判正定） 判断 $B = \begin{bmatrix} 2 & -1 & 0 \\ -1 & 2 & -1 \\ 0 & -1 & 3 \end{bmatrix}$ 是否正定。要求：算顺序主子式、算消元主元、算特征值，验证三者结论一致。

答案

**（1）顺序主子式。** - $1\\times1$：$D_1 = 2 > 0$ ✓ - $2\\times2$：$D_2 = 2\\cdot2 - (-1)(-1) = 3 > 0$ ✓ - $3\\times3$：按第 1 行展开 $$D_3 = 2\det\begin{bmatrix} 2 & -1 \\ -1 & 3 \end{bmatrix} - (-1)\det\begin{bmatrix} -1 & -1 \\ 0 & 3 \end{bmatrix} + 0 = 2(6-1) + 1(-3-0) = 10 - 3 = 7 > 0\ ✓$$ （脚本验算：顺序主子式为 $2, 3, 7$ ✓。） **（2）消元主元。** 第一步主元 $d_1 = 2$；消去后 $$\begin{bmatrix} 2 & -1 & 0 \\ 0 & 2 - \tfrac{1}{2} & -1 \\ 0 & -1 & 3 \end{bmatrix} = \begin{bmatrix} 2 & -1 & 0 \\ 0 & 1.5 & -1 \\ 0 & -1 & 3 \end{bmatrix},$$ 第二主元 $d_2 = 3/2$；再消去第三行第二列的 $-1$：$3 - \\frac{(-1)^2}{1.5} = 3 - \\frac{2}{3} = \\frac{7}{3}$，故 $d_3 = 7/3$。注意 $D_3 = d_1d_2d_3 = 2 \\cdot \\frac32 \\cdot \\frac73 = 7$ ✓（行列式 = 主元之积）。 **（3）特征值。** 脚本（Jacobi 迭代）得 $\\lambda \\approx 0.753020,\\ 2.445042,\\ 3.801938$。校验：$\\sum \\lambda_i = 7.000000 = \\operatorname{tr}B$ ✓。 **（4）结论。** 顺序主子式 $2,3,7$ 全正，主元 $2, 1.5, 2.333$ 全正，特征值 $0.753, 2.445, 3.802$ 全正——**三套判据一致，$B$ 正定** ✓。顺便得 $\\det B = 7$，$1/\\sqrt{\\lambda}$ 给出椭球半轴长约 $1.153,\\ 0.639,\\ 0.513$。

Q2（计算题：求 $A = R^{\mathsf{T}}R$） 对正定矩阵 $A = \begin{bmatrix} 4 & 2 \\ 2 & 5 \end{bmatrix}$，求上三角矩阵 $R$（对角元为正）使 $A = R^{\mathsf{T}}R$，并用顺序主子式与特征值确认 $A$ 确实正定。

答案

**（1）确认正定。** $D_1 = 4 > 0$，$D_2 = 4\\cdot5 - 2\\cdot2 = 16 > 0$ ✓（脚本验算）。特征值：$\\lambda^2 - 9\\lambda + 16 = 0$ 得 $\\lambda = \\frac{9 \\pm \\sqrt{81-64}}{2} = \\frac{9\\pm\\sqrt{17}}{2} \\approx 6.561553,\\ 2.438447$，均为正 ✓。 **（2）逐步求 $R = \\begin{bmatrix} r_{11} & r_{12} \\\\ 0 & r_{22} \\end{bmatrix}$。** 令 $$R^{\mathsf{T}}R = \begin{bmatrix} r_{11} & 0 \\ r_{12} & r_{22} \end{bmatrix}\begin{bmatrix} r_{11} & r_{12} \\ 0 & r_{22} \end{bmatrix} = \begin{bmatrix} r_{11}^2 & r_{11}r_{12} \\ r_{11}r_{12} & r_{12}^2 + r_{22}^2 \end{bmatrix}.$$ 比对角元：$r_{11}^2 = 4 \\Rightarrow r_{11} = 2$；$r_{11}r_{12} = 2 \\Rightarrow r_{12} = 1$；$r_{12}^2 + r_{22}^2 = 5 \\Rightarrow r_{22}^2 = 5 - 1 = 4 \\Rightarrow r_{22} = 2$。故 $$R = \begin{bmatrix} 2 & 1 \\ 0 & 2 \end{bmatrix}.$$ **（3）验算。** $R^{\\mathsf{T}}R = \\begin{bmatrix} 2 & 0 \\\\ 1 & 2 \\end{bmatrix}\\begin{bmatrix} 2 & 1 \\\\ 0 & 2 \\end{bmatrix} = \\begin{bmatrix} 4 & 2 \\\\ 2 & 1+4 \\end{bmatrix} = \\begin{bmatrix} 4 & 2 \\\\ 2 & 5 \\end{bmatrix} = A$ ✓（脚本验算 `[[4,2],[2,5]]` 精确成立）。 **（4）与消元/配方的联系。** 主元 $d_1 = 4$，$d_2 = 5 - \\frac{2^2}{4} = 4$；而 $r_{11}^2 = d_1 = 4$，$r_{22}^2 = d_2 = 4$——**$R$ 的对角元正是主元的平方根**。配方形式：$x^{\\mathsf{T}}Ax = 4x_1^2 + 4x_1x_2 + 5x_2^2 = 4(x_1 + \\frac{x_2}{2})^2 + 4x_2^2$（检查：$4x_1^2 + 4x_1x_2 + x_2^2 + 4x_2^2 = 4x_1^2 + 4x_1x_2 + 5x_2^2$ ✓），平方项系数 4 与 4 就是两个主元。

Q3（概念题） 下面哪些说法正确？说明理由。 (a) 对称矩阵的特征值都是正的。 (b) 若 $A$ 正定，则 $A$ 可逆且 $\det A > 0$。 (c) 若 $\det A > 0$ 且所有对角元为正，则 $A$ 正定。 (d) 若 $A$ 半正定且可逆，则 $A$ 正定。 (e) 若 $A$ 正定，则 $A^{-1}$ 也正定。

答案

**(a) 错误。** 对称只保证特征值是**实数**，不保证正。反例：$A = \\begin{bmatrix} 1 & 2 \\\\ 2 & 1 \\end{bmatrix}$，$\\lambda = 3, -1$（已验算）。正定是对称矩阵的一个**额外**条件（$\\lambda_i > 0$）。 **(b) 正确。** 正定 ⟹ 所有 $\\lambda_i > 0$ ⟹ $\\det A = \\prod \\lambda_i > 0 \\neq 0$ ⟹ 可逆。反之不成立（如 $\\begin{bmatrix} -1 & 0 \\\\ 0 & -2 \\end{bmatrix}$ 行列式为正但特征值全负，是负定）。 **(c) 错误——但要小心"小矩阵陷阱"。** 对 $2\\times2$ 矩阵，若 $a_{11} > 0$ 且 $\\det A > 0$，则自动有 $a_{22} > \\frac{a_{12}^2}{a_{11}} \\geq 0$，于是 $D_1 > 0, D_2 > 0$，**恰好就是正定**。所以这个说法在 $2\\times2$ 下成立，容易让人误以为是普遍规律。到 $n = 3$ 就失败了： $$C = \begin{bmatrix} 1 & 2 & 2 \\ 2 & 1 & 2 \\ 2 & 2 & 1 \end{bmatrix},\qquad D_1 = 1,\ D_2 = 1 - 4 = -3 < 0,\ \det C = 1(1-4) - 2(2-4) + 2(4-2) = -3 + 4 + 4 = 5 > 0.$$ 对角元全为正、行列式为正，但 $D_2 < 0$ 故**非正定**；它的特征值是 $5, -1, -1$（正负混杂，属**不定**）。**结论：$\\det A > 0$ 加对角元为正远远不够，必须逐个检验全部顺序主子式 $D_1,\\dots,D_n$。** **(c 的补充反例，更简单)** $A = \\begin{bmatrix} 0 & 1 \\\\ 1 & 0 \\end{bmatrix}$：对角元都是 $0$（不是正），$\\det = -1$，特征值 $\\pm1$——它提醒我们"对角元必须为正"只是**必要**条件（$a_{ii} = \\mathbf{e}_i^{\\mathsf{T}}A\\mathbf{e}_i > 0$）；一旦发现某个 $a_{ii} \\leq 0$，可以立刻判定非正定，省下全部计算。 **(d) 正确。** 半正定给 $\\lambda_i \\geq 0$；可逆（$\\det \\neq 0$）排除了任何 $\\lambda_i = 0$，故 $\\lambda_i > 0$ 全体，即正定。 **(e) 正确。** $A = Q\\Lambda Q^{\\mathsf{T}}$，$\\lambda_i > 0$ ⟹ $A^{-1} = Q\\Lambda^{-1}Q^{\\mathsf{T}}$，而 $\\Lambda^{-1} = \\operatorname{diag}(1/\\lambda_1,\\dots,1/\\lambda_n)$ 的对角元仍全为正 ⟹ $A^{-1}$ 正定。几何上：椭球的逆变换还是椭球，主轴不变。另外 $A^{-1}$ 总可以写成 $A^{-1} = (A^{-1})^{\\mathsf{T}}A(A^{-1})$ 的形式，但更简单的判据仍是用特征值。

Q4（$A^{\mathsf{T}}A$ 的性质） 设 $A = \begin{bmatrix} 1 & 2 \\ 3 & 4 \\ 5 & 6 \end{bmatrix}$。 (a) 求 $A^{\mathsf{T}}A$ 并验证它对称正定。 (b) 求 $\det(A^{\mathsf{T}}A)$，说明为什么 $\det(A^{\mathsf{T}}A) = (\det R)^2$（$A$ 的方阵形式见下）。 (c) 若把 $A$ 改成 $2\times3$ 的 $M = \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{bmatrix}$，$M^{\mathsf{T}}M$ 还是正定吗？为什么？

答案

**(a)** $$A^{\mathsf{T}}A = \begin{bmatrix} 1 & 3 & 5 \\ 2 & 4 & 6 \end{bmatrix}\begin{bmatrix} 1 & 2 \\ 3 & 4 \\ 5 & 6 \end{bmatrix} = \begin{bmatrix} 1+9+25 & 2+12+30 \\ 2+12+30 & 4+16+36 \end{bmatrix} = \begin{bmatrix} 35 & 44 \\ 44 & 56 \end{bmatrix}.$$ 对称 ✓。顺序主子式：$35 > 0$，$\\det = 35\\cdot56 - 44^2 = 1960 - 1936 = 24 > 0$ ⟹ **正定** ✓（脚本验算第 1 行、第 2 行、行列式值均精确匹配）。特征值 $\\lambda = \\frac{91 \\pm \\sqrt{91^2 - 4\\cdot24}}{2} \\approx 90.735495,\\ 0.264505$，均正 ✓。列满秩（$A$ 两列不成比例）是正定的根本原因。 **(b)** $\\det(A^{\\mathsf{T}}A) = 24$。若 $A$ 是 $n\\times n$ 可逆方阵，则 $\\det(A^{\\mathsf{T}}A) = \\det(A^{\\mathsf{T}})\\det A = (\\det A)^2$；与 QR 分解 $A = QR$（讲次 17）对照，$A^{\\mathsf{T}}A = R^{\\mathsf{T}}Q^{\\mathsf{T}}QR = R^{\\mathsf{T}}R$，故 $\\det(A^{\\mathsf{T}}A) = (\\det R)^2$，且 $\\vert \\det R\\vert = \\vert \\det A\\vert $。 **(c)** $M$ 是 $2\\times3$，列数 $3 >$ 行数 $2$，三列必线性相关，故 $N(M) \\neq \\{\\mathbf{0}\\}$。脚本验算： $$M^{\mathsf{T}}M = \begin{bmatrix} 17 & 22 & 27 \\ 22 & 29 & 36 \\ 27 & 36 & 45 \end{bmatrix}, \qquad \det(M^{\mathsf{T}}M) = 0.$$ 存在 $\\mathbf{x} \\neq \\mathbf{0}$（例如 $\\mathbf{x} = (1,-2,1)$，即 $3$ 列满足 $\\mathbf{c}_1 - 2\\mathbf{c}_2 + \\mathbf{c}_3 = \\mathbf{0}$）使 $M\\mathbf{x} = \\mathbf{0}$，故 $x^{\\mathsf{T}}M^{\\mathsf{T}}Mx = \\vert M\\mathbf{x}\\vert ^2 = 0$。所以 $M^{\\mathsf{T}}M$ 只是**半正定（且奇异）**，不是正定。这印证了关键要点 4：**$A^{\\mathsf{T}}A$ 正定 ⟺ $A$ 列线性无关（列满秩）**，等价于 $N(A^{\\mathsf{T}}A) = N(A) = \\{\\mathbf{0}\\}$（讲次 14）。对最小二乘（讲次 16）而言：列满秩时法方程有唯一解；列相关时有无穷多最小二乘解（$\\hat{\\mathbf{x}}$ 不唯一），需要用伪逆 $A^{+}$（讲次 33）挑选。

附：本讲关键数值的脚本验算汇总（全部在 Node 中执行通过）

$\begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}$：$\lambda = 3, 1$；$Q^{\mathsf{T}}Q = I$；$Q\Lambda Q^{\mathsf{T}} = A$；$3\mathbf{q}_1\mathbf{q}_1^{\mathsf{T}} = \begin{bmatrix} 1.5 & 1.5 \\ 1.5 & 1.5 \end{bmatrix}$，$\mathbf{q}_2\mathbf{q}_2^{\mathsf{T}} = \begin{bmatrix} 0.5 & -0.5 \\ -0.5 & 0.5 \end{bmatrix}$，和 $= A$；$\mathbf{q}_1^{\mathsf{T}}\mathbf{q}_2 = 0$。
$\begin{bmatrix} 1 & 2 \\ 2 & 1 \end{bmatrix}$：$\lambda = 3, -1$（不定）。
三对角 $\begin{bmatrix} 2 & -1 & 0 \\ -1 & 2 & -1 \\ 0 & -1 & 2 \end{bmatrix}$：$\lambda = 0.5857864376,\ 2,\ 3.4142135624$；顺序主子式 $2, 3, 4$；主元 $2, 1.5, 1.333333$；$Q\Lambda Q^{\mathsf{T}} = A$ 精确到 $10^{-9}$；$\det = 4$。
$\begin{bmatrix} 2 & 6 \\ 6 & 20 \end{bmatrix}$：顺序主子式 $2, 4$；主元 $2, 2$；$\lambda = 11 \mp \sqrt{117} \approx 0.183346,\ 21.816654$；$R = \begin{bmatrix} \sqrt2 & 3\sqrt2 \\ 0 & \sqrt2 \end{bmatrix}$ 满足 $R^{\mathsf{T}}R = A$。
$\begin{bmatrix} 1 & 3 \\ 3 & 1 \end{bmatrix}$：$\det = -8$，$\lambda = 4, -2$，$x^{\mathsf{T}}Ax$ 在 $(1,-1)$ 处为 $-4$（不定）。
$\begin{bmatrix} 1 & 1 \\ 1 & 1 \end{bmatrix}$：$\lambda = 2, 0$，$\det = 0$，$(1,-1)$ 处 $x^{\mathsf{T}}Ax = 0$（半正定且奇异）。
$x^{\mathsf{T}}Ax$ 仅依赖对称部分：$B = \begin{bmatrix} 1 & 4 \\ 2 & 3 \end{bmatrix}$ 与 $\frac{B+B^{\mathsf{T}}}{2} = \begin{bmatrix} 1 & 3 \\ 3 & 3 \end{bmatrix}$ 在 $(1,1)$ 处同为 $10$。
椭圆 $x^{\mathsf{T}}Ax=1$（$A = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}$）边界点：$\theta=45°$ 处 $(0.4082, 0.4082)$（长度 $0.5774 = 1/\sqrt3$，最短）；$\theta = 0°, 90°$ 处长度 $0.7071$。
$A^{\mathsf{T}}A$（$A = \begin{bmatrix} 1 & 2 \\ 3 & 4 \\ 5 & 6 \end{bmatrix}$）$= \begin{bmatrix} 35 & 44 \\ 44 & 56 \end{bmatrix}$，$\det = 24$，$\lambda \approx 90.735495,\ 0.264505$。
$M = \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{bmatrix}$：$M^{\mathsf{T}}M = \begin{bmatrix} 17 & 22 & 27 \\ 22 & 29 & 36 \\ 27 & 36 & 45 \end{bmatrix}$，$\det = 0$。
$B = \begin{bmatrix} 2 & -1 & 0 \\ -1 & 2 & -1 \\ 0 & -1 & 3 \end{bmatrix}$（Q1）：顺序主子式 $2, 3, 7$；$\lambda \approx 0.753020,\ 2.445042,\ 3.801938$。
$\begin{bmatrix} 4 & 2 \\ 2 & 5 \end{bmatrix}$（Q2）：$R = \begin{bmatrix} 2 & 1 \\ 0 & 2 \end{bmatrix}$，$R^{\mathsf{T}}R = A$；$\lambda \approx 6.561553,\ 2.438447$。

Share on

Bluesky Facebook LinkedIn Mastodon X (formerly Twitter)

Runguo Li