多项式

多项式的线性代数结构

线性算子上应用 Cayley-Hamilton 定理,就得到其特征多项式。对特征多项式的因子分解,事实上是对线性子空间的分解。互素多项式作用在线性算子上,得到直和分解,这就是初等因子分解的理论;不可约多项式作用在线性算子上,得到特征子空间分解,这就是特征多项式分解的理论。这里的想法是将算子作用在一个向量上,生成一条向量列,张成子空间。

多项式的环结构

考虑域 $\mathbb F$ 上的多项式环 $\mathbb F[x]$ 及其变体 $\mathbb F^n[x],\mathbb F[[x]],\mathbb F[x_1,\ldots,x_n]$等。在上面可以定义整除关系(从而启发我们在剩余类上思考问题),从而衍生出带余除法、最大公因式、最小公倍式等概念。它们的关系由阶,即最高次数来刻画

$$f(x)=g(x)q(x)+r(x),\quad \deg r<\deg g,$$

最高次数及其(首项)系数是处理多项式的关键工具,因为整除等价的相伴关系就差一个常数系数。带余除法的推论是余数定理和极小多项式的理论。它们都与整除密不可分,特别地,Bezout 定理给出对于 $f,g\in \mathbb F[x]$,存在 $u,v\in \mathbb F[x]$ 使得

$$uf+vg=\gcd(f,g),$$

这一部分是由 Euclid 辗转相除法给出的。Bezout 定理可以推广到多个多项式的情况,还可以给出中国剩余定理:对于一组两两互素的多项式 $g_i$ 和任意多项式 $r_i$,存在多项式 $f$ 使得

$$f\equiv r_i\pmod{g_i},\quad i=1,\ldots,n.$$

由于我们主要研究域 $\mathbb F$ 上的多项式环,所以 $\mathbb F[x]$ 是一个主理想整环,也是唯一分解整环。这意味着每个非零多项式都可以唯一分解为不可约多项式的乘积,在相伴意义下

$$f(x)=c\prod_{i=1}^n p_i(x)^{\alpha_i},\quad c\in \mathbb F^\times,\alpha_i\in \mathbb Z_{\ge 0},$$

其中 $p_i$ 就是不可约多项式(极小多项式)。


多项式的问题就是根的问题,我们从有无根和公共根两个角度出发。对于前者,代数闭域 $\overline {\mathbb F}$ 具有代数基本定理,即便我们不考虑在代数闭包上研究根,Vieta 定理也给出了根与系数的关系

$$\sum_{|I|=k}\prod_{i\in I}r_i=(-1)^k\frac{a_{n-k}}{a_n},$$

Lagrange 插值给出了根数量的上界。对于后者,通过待定系数法求解系数方程,Sylvester 行列式给出了两个多项式是否有公共根的判据

$$\mathrm{Res}(f,g)=\left|\begin{matrix}a_n & a_{n-1} & \cdots & a_0 & 0 & \cdots & 0\\0 & a_n & a_{n-1} & \cdots & a_0 & \cdots & 0\\\vdots & & & & & & \vdots\\0 & \cdots & 0 & a_n & a_{n-1} & \cdots & a_0\\b_m & b_{m-1} & \cdots & b_0 & 0 & \cdots & 0\\0 & b_m & b_{m-1} & \cdots & b_0 & \cdots & 0\\\vdots & & & & & & \vdots\\0 & \cdots & 0 & b_m & b_{m-1} & \cdots & b_0\end{matrix}\right|,\quad a_n,b_m\neq 0$$

其中 $f$ 的系数重复了 $\deg g$ 次,$g$ 的系数重复了 $\deg f$ 次。这是从两个不相关的多项式出发的,有时候判断一个多项式是否有重根,自然的想法是在代数闭包上作用结式,这就给出判别式的定义

$$\mathrm{Disc}(f)=(-1)^{\frac{n(n-1)}{2}}\frac{\mathrm{Res}(f,f')}{a_n},$$

在代数闭包上,结式和判别式可以用根来表示

$$\mathrm{Res}(f,g)=a_n^m b_m^n\prod_{i=1}^n\prod_{j=1}^m(x_i-y_j),\quad \mathrm{Disc}(f)=a_n^{2n-2}\prod_{i 可以看到,结式有乘性。


最后讨论在特殊域(或环)下的多项式环。$\mathbb F=\mathbb R$ 时成立虚根成对;$\mathbb F=\mathbb Z$ 时可以通过首项系数和常数项整除判别来判断是否有有理根,和 Eisenstein 判别法来判断是否在 $\mathbb Q$ 上可约;$\mathbb F=\mathbb Q$ 作为前者的分式域,可以通过Gauss 引理将不可约性判据从 $\mathbb Z[x]$ 推广到 $\mathbb Q[x]$(引出本原多项式的概念);$\mathbb F=\mathbb F_p$ 时可以通过Fermat 小定理来判断是否有根。这些证明中,有许多都是从首项系数出发的。

对于 $\mathbb F=\mathbb C$ 的情形,我们引入单位根,满足

$$1+\omega^{1\cdot k}+\omega^{2\cdot k}+\cdots+\omega^{(n-1)\cdot k}=0,\quad 1\le k\le n-1.$$

包括 De Moivre 定理、Euler 公式、Chebyshev 多项式等都可以通过单位根来处理。单位根的性质是循环群,它们的多项式是分圆多项式

$$\Phi_n(x)=\prod_{1\le k\le n,(k,n)=1}(x-\omega^k),$$

它们是不可约多项式。另外,这和循环矩阵密切相关,参见矩阵部分。


多元多项式只需要注意到

$$\mathbb F[x_1,\ldots,x_n]\cong \mathbb F[x_1][x_2]\cdots[x_n],$$

所以可以通过逐次降维来处理,本质上它还是一元多项式的理论,只不过需要引入一些排序的想法,主要是基于主元法。一类最特殊的多元多项式是对称多项式,它们可以通过基本对称多项式来唯一表示,后者和 Vieta 定理密不可分

$$\sigma_k(x_1,\ldots,x_n)=\sum_{|I|=k}\prod_{i\in I}x_i.$$

Newton 恒等式给出了对称多项式和幂和多项式之间的关系,这是一类卷积恒等式,约定 $s_0=\min\{n,k\}$,取决于

$$\sum_{i=0}^{\min\{n,k\}}s_{k-i}(-1)^{i}\sigma_i=0.$$

相关的概念有 Vandermonde 行列式,它给出了对称多项式的判别式。由于 Vandermonde 行列式非零,结合 Vieta 定理,我们可以以此实现 Lagrange 插值。

矩阵

伴随矩阵

在一般域 $\mathbb F$ 下,根据 Cayley-Hamilton 定理,$A$ 的伴随矩阵可以由其特征多项式导出

$$f(A)=A(A^{n-1}+a_{n-1}A^{n-2}+\cdots+a_1I)+a_0I=O.$$

更一般地,伴随矩阵 $\mathrm{adj}(A)$(代数余子式矩阵的转置)满足基本恒等式

$$A\,\mathrm{adj}(A)=\mathrm{adj}(A)\,A=\det(A)\,I,$$

由此 $A$ 可逆当且仅当 $\det A\neq 0$,且逆矩阵为

$$A^{-1}=\frac{1}{\det A}\,\mathrm{adj}(A).$$

伴随矩阵的秩刻画为

$$\mathrm{rank}\,\mathrm{adj}(A)=\begin{cases}n,& \mathrm{rank}\,A=n,\\1,& \mathrm{rank}\,A=n-1,\\0,& \mathrm{rank}\,A\le n-2,\end{cases}$$

且 $\det(\mathrm{adj}\,A)=(\det A)^{n-1}$、$\mathrm{adj}(A^{-1})=(\mathrm{adj}\,A)^{-1}$、$\mathrm{adj}(\mathrm{adj}\,A)=(\det A)^{n-2}A\ (n\ge 2)$ 等性质均可由基本恒等式推出。

特殊情况

在域 $\mathbb R,\mathbb C$ 上,可以使用摄动法。

初等变换与秩

初等变换(换行/列、倍乘、倍加)不改变矩阵的秩;行初等变换把矩阵化为行阶梯形与行最简形,行列同时使用初等变换得到相抵标准型

$$A=P\begin{pmatrix}I_r & 0\\0 & 0\end{pmatrix}Q,\qquad r=\mathrm{rank}\,A,\ P,Q\text{ 可逆},$$

初等变换对应初等矩阵,可逆矩阵可分解为初等矩阵之积,这就是 Gauss 消元法的矩阵表述。秩还满足 Sylvester 不等式与 Frobenius 不等式

$$\mathrm{rank}(AB)\ge \mathrm{rank}\,A+\mathrm{rank}\,B-n,\qquad \mathrm{rank}(ABC)\ge \mathrm{rank}(AB)+\mathrm{rank}(BC)-\mathrm{rank}\,B,$$

以及 $\mathrm{rank}(A+B)\le \mathrm{rank}\,A+\mathrm{rank}\,B$。

分块矩阵

分块矩阵的分块乘法与普通乘法规则一致,常用技巧:

  • 分块对角/三角矩阵:行列式、可逆性与逆可逐块处理, $$\det\begin{pmatrix}A & 0\\0 & B\end{pmatrix}=\det A\cdot\det B,\qquad \begin{pmatrix}A & 0\\0 & B\end{pmatrix}^{-1}=\begin{pmatrix}A^{-1} & 0\\0 & B^{-1}\end{pmatrix};$$
  • Schur 补:若 $A$ 可逆,则 $$\det\begin{pmatrix}A & B\\C & D\end{pmatrix}=\det A\cdot\det(D-CA^{-1}B),$$ $D-CA^{-1}B$ 称为 $A$ 的 Schur 补,这一公式把大矩阵问题逐步降维(与多元多项式的逐次降维同理);
  • Cauchy-Binet 公式给出乘积矩阵的子式展开,是许多行列式恒等式与秩不等式的来源。

矩阵分解

常见分解及用途:

  • LU 分解:主元全非零时 $A=LU$($L$ 单位下三角,$U$ 上三角),即 Gauss 消元法的矩阵表述,用于解线性方程组与计算行列式;
  • QR 分解:$A=QR$($Q$ 酉/正交,$R$ 上三角),由 Gram-Schmidt 正交化得到(见内积空间),用于最小二乘与特征值迭代;
  • Jordan 标准型:$A=PJP^{-1}$,$J=\mathrm{diag}(J_{n_1}(\lambda_1),\ldots,J_{n_s}(\lambda_s))$,其中 Jordan 块 $$J_n(\lambda)=\lambda I_n+N_n=\begin{pmatrix}\lambda & 1 & & \\ & \ddots & \ddots & \\ & & \lambda & 1\\ & & & \lambda\end{pmatrix},$$ $N_n$ 是幂零块。Jordan 标准型由初等因子唯一确定,是相似关系的完全不变量;
  • 有理标准型:由不变因子(Frobenius 块)确定,不要求特征值在域内,故在任意域上存在(Jordan 标准型需要特征多项式在域上分裂)。

相似与合同

相似 $B=P^{-1}AP$ 是同一线性算子在不同基下的矩阵,保持特征多项式、极小多项式、Jordan 标准型,从而保持迹、行列式与特征值;合同 $B=P^TAP$ 是同一二次型在不同基下的矩阵,保持对称性、秩与惯性指数。两者的差别恰在 $P^{-1}$ 与 $P^T$:相似保持算子结构,合同保持度量结构。实对称矩阵的正交相似同时是合同($Q^{-1}=Q^T$),这是内积空间中谱定理的出发点。

线性映射与线性空间

主要讨论有限维线性空间的线性算子,无限维的情形仅作比较和补充。

线性映射的表示

基 线性扩张,AB 的行列向量构造矩阵空间的基,r1矩阵的分解

将两个线性空间 $U,V$ 的基分别记作

$$E=(e_1,\ldots,e_n),\quad F=(f_1,\ldots,f_m)$$

那么线性算子 $\varphi:U\to V$ 的表示矩阵由基的选取唯一确定

$$\varphi(E)=FA_{\varphi}$$
  • 用坐标表示时,线性映射 $\varphi(x)=A_\varphi x$;

  • 选定 $V,U$ 的一组基后,$\mathrm{Hom}_{\mathbb F}(V,U)\cong \mathcal M_{m\times n}(\mathbb F)$ 是 $\mathbb F$-线性同构;选定 $V$ 的一组基后,$\mathrm{Hom}_{\mathbb F}(V)\cong \mathcal M_m(\mathbb F)$ 是 $\mathbb F$-线性代数同构。此时向量和坐标一一对应,算子与表示阵一一对应,可以直接替换 $\varphi(v)\leftrightarrows A_\varphi x_v$;

  • 更换 $V,U$ 的基,相当于表示阵的相抵变换;更换 $V$ 的基,相当于表示阵的相似变换;

  • 秩-零化度定理:$\varphi:V\to U$,则

    $$\dim V=\dim\ker\varphi+\dim\mathrm{im}\,\varphi= \mathrm{nullity}\,\varphi+\mathrm{rank}\, \varphi$$
  • 线性变换 $\varphi$ 可逆,当且仅当表示阵 $A_\varphi$ 可逆;

  • 线性变换 $\varphi$ 是线性同构,当且仅当 $\varphi$ 是单映射或满映射;


线性变换

  • 线性变换是 $V\to V$ 的线性映射;
  • 线性变换是线性同构,当且仅当其为满射,当且仅当其为单射;
  • 线性变换的表示阵只选一组基。从一组基 $E$ 到另一组基 $E'$ 的变换,相当于表示阵相似变换,过渡矩阵为 $E'=ET$,表示阵为 $A_\varphi\to T^{-1}A_\varphi T$;
  • 过渡矩阵通过列变换计算;

不变子空间

  • $W\subset V$ 是 $\varphi$-不变子空间,当且仅当 $\varphi(W)\subseteq W$;
  • $\varphi|_{W},\varphi|_{V/W}$ 诱导限制线性映射和商映射,对应表示阵为分块上三角阵;如果存在不变子空间对全空间直和分解,对应表示阵为分块对角矩阵;
  • $\ker \varphi$ 和 $\mathrm{im} \,\varphi$ 是不变子空间。

线性空间

基本概念

域 $\mathbb F$ 上的线性空间 $V$ 是带有加法与数乘两种运算、满足八条公理的集合。子空间、张成、线性无关、基与维数构成基本语言,核心事实:

  • 任意两组基的基数相同,维数 $\dim V$ 良定;
  • 取定基后每个向量唯一对应坐标向量,故 $n$ 维空间同构于 $\mathbb F^n$;
  • 维数公式:对子空间 $U,W$ 有 $$\dim(U+W)=\dim U+\dim W-\dim(U\cap W),$$ 特别当 $U\cap W=\{0\}$ 时 $U+W$ 为直和 $U\oplus W$,此时 $\dim(U\oplus W)=\dim U+\dim W$。

线性映射与同构

线性映射 $\varphi:V\to W$ 由其在基上的取值完全决定。基本对象是核 $\ker\varphi$ 与像 $\mathrm{im}\,\varphi$,维数公式(秩-零化度定理)给出

$$\dim V=\dim\ker\varphi+\dim\mathrm{im}\,\varphi,$$

这是线性代数中最常用的恒等式。取定基后 $\varphi$ 对应矩阵表示 $A$,换基等价于相似变换 $A\mapsto P^{-1}AP$。$\varphi$ 是同构当且仅当 $\dim V=\dim W$ 且 $\ker\varphi=\{0\}$。

商空间与对偶空间

  • 商空间 $V/U$:把子空间 $U$ 中的向量视为零元,$\dim V/U=\dim V-\dim U$,自然映射 $V\to V/U$ 的核恰为 $U$;
  • 对偶空间 $V^*$:$V$ 上全体线性函数构成的空间,$\dim V^*=\dim V$,对偶基 $\{f_i\}$ 满足 $f_i(e_j)=\delta_{ij}$;$V$ 与 $V^{**}$ 有自然同构,而 $V$ 与 $V^*$ 的同构依赖基的选取(除非借助内积);
  • 对偶与转置对应:$\varphi^T(f)=f\circ\varphi$。

极小多项式

对于线性算子 $\varphi$(或方阵 $A$):

  • 极小多项式 $m_\varphi$ 是使 $m(\varphi)=0$ 的次数最低的首一多项式,存在且唯一;
  • Cayley-Hamilton 定理:特征多项式 $f_\varphi$ 满足 $f_\varphi(\varphi)=0$,故 $m_\varphi\mid f_\varphi$;
  • $m_\varphi$ 与 $f_\varphi$ 在代数闭包上有相同的根:$\lambda_0$ 是特征值当且仅当 $\lambda_0$ 是 $m_\varphi$ 的根;
  • 重数上的差别:$f_\varphi$ 中 $\lambda_0$ 的重数是代数重数,$m_\varphi$ 中的重数是 $\lambda_0$ 对应 Jordan 块的最大阶数;
  • $\varphi$ 可对角化当且仅当 $m_\varphi$ 在 $\mathbb F$ 上分裂且无重根。

  • 特征值不一定存在;对于代数闭域 $\overline{\mathbb F}$,特征值及其特征向量一定存在;
  • 不同特征值的特征向量线性无关,从而不同特征值的特征子空间的和是直和;
  • 对于特征值 $\lambda_0$,其几何重数表示 $\lambda_0$-特征子空间 $V_{\lambda_0}=\ker (\lambda_0I-A)$ 的维数 $\dim V_{\lambda_0}=n-\mathrm{rank}\,(\lambda_0I-A)$,其代数重数表示 $\lambda_0$ 在特征多项式中作为根的重数;
  • 特征值 $\lambda_0$ 有完全特征向量系,等价于其几何重数等于代数重数;线性算子 $\varphi_A$ 有完全特征向量系,等价于其每一个特征值都有完全特征向量系。当特征值都在 $\mathbb F$ 上时,此时还等价于 $A$ 可相似对角化,等价于 $A$ 有 $n$ 个线性无关的特征向量,等价于 $V$ 是特征子空间的直和;
  • 相似不变量:特征多项式、行列式、迹、特征值、特征值的代数重数、特征值的几何重数;
  • 极小多项式 $m_A$ 是使 $m_A(A)=O$ 的次数最低的首一多项式,存在且唯一;
  • 如果 $A$ 满足多项式 $f$,则 $m_A\mid f$,可以用它来限制特征值的取值范围;
  • Cayley-Hamilton 定理:$f_A(A)=O$;
  • 伴随矩阵 $A^*$ 可以表示为 $A$ 的多项式,它不需要摄动法;
  • 多项式 $f(x)=x^n+a_{n-1}x^{n-1}+\cdots+a_1x+a_0$ 对应以其为特征多项式的友阵如下,且每个特征值的几何重数都是 $1$ $$\begin{pmatrix}0 & 0 & \cdots & 0 & -a_0\\1 & 0 & \cdots & 0 & -a_1\\0 & 1 & \cdots & 0 & -a_2\\\vdots & \vdots & \ddots & \vdots & \vdots\\0 & 0 & \cdots & 1 & -a_{n-1}\end{pmatrix};$$
  • 对角化或分块对角化后 $A$ 的多项式可以直接作用在对角块上,上三角或分块上三角矩阵的对角部分在作用多项式后的行为和对角化时一致。即便特征值不全在 $\mathbb F$ 上,$A$ 作用多项式 $f$ 后,特征值为 $f(\lambda_i)$;

  • 对于特征值估计或计算问题,特征值是特征多项式的根,因此可以找其满足的多项式,限制特征值的讨论范围,或以此得到特征值满足的性质。
  • 对于可相似上三角化的线性算子,可以考虑作用包括多项式在内的矩阵函数,特征值为函数作用在特征值上的结果。

  • 对于矩阵空间的线性算子的特征值问题,一方面可以找其满足的多项式限制特征值范围,另一方面可以考虑 Kronecker 积

  • 代数闭域??????是否可以平行 C

线性方程组与通解

线性变换与线性空间

基、表示与变换

不变子空间、直和分解,秩与对称

相似

设 $A,B\in\mathcal M_n(\mathbb F)$,$\mathbb F\subset\mathbb K$,则以下命题等价:

  • $A,B$ 相似;
  • 存在可逆矩阵 $P$ 使得 $B=P^{-1}AP$;
  • $\lambda I-A$ 与 $\lambda I-B$ 作为 $\lambda$-矩阵相抵(需要证明一个带余除法引理);
  • $A,B$ 的行列式因子相同;
  • $A,B$ 的不变因子相同;
  • $A,B$ 的初等因子相同;
  • $A,B$ 在 $\mathbb K$ 上相似(给出分裂域的应用)。

因子1…n-m+1n-m+2…n
行列式因子$1$$\ldots$$d_1(\lambda)$$d_1(\lambda)d_2(\lambda)$$\ldots$$d_1(\lambda)\cdots d_m(\lambda)$(特征多项式)
不变因子$1$$\ldots$$d_1(\lambda)$$d_2(\lambda)$$\ldots$$d_m(\lambda)$(极小多项式)
$1$$\ldots$$\displaystyle \prod_{i=1}^kP_i(\lambda)^{e_{1i}}$$\displaystyle\prod_{i=1}^k P_i(\lambda)^{e_{2i}}$$\ldots$$\displaystyle\prod_{i=1}^k P_i(\lambda)^{e_{mi}}$
$P_1$ 初等因子组$P_1(\lambda)^{e_{11}}$$P_1(\lambda)^{e_{21}}$$\ldots$$P_1(\lambda)^{e_{m1}}$
$\vdots$$\vdots$$\vdots$$\ddots$$\vdots$
$P_k$ 初等因子组$P_k(\lambda)^{e_{1k}}$$P_k(\lambda)^{e_{2k}}$$\ldots$$P_k(\lambda)^{e_{mk}}$

第三行是不变因子的不可约分解,初等因子组是 $P_i$ 初等因子组中非常数的那些项全体。表中的每一列都整除后一列,因此初等因子组是阶梯形。如果初等因子在 $\mathbb F$ 上分裂,则初等因子组对应的基本分块就是 Jordan 块;如果不然,则它只不过能写为更细小的 Frobenius 块,成为广义 Jordan 块。


特征值与特征向量


Kronecker 积定义在 $A\in\mathcal M_{m\times n}(\mathbb F),B\in\mathcal M_{p\times q}(\mathbb F)$ 上,描述两个矩阵的张量积,记作 $A\otimes B$,其定义为

$$A\otimes B=\begin{pmatrix}a_{11}B & a_{12}B & \cdots & a_{1n}B\\a_{21}B & a_{22}B & \cdots & a_{2n}B\\\vdots & \vdots & \ddots & \vdots\\a_{m1}B & a_{m2}B & \cdots & a_{mn}B\end{pmatrix}\in\mathcal M_{mp\times nq}(\mathbb F),$$

满足以下性质,如果可以合法运算:

  • $(A+B)\otimes C=A\otimes C+B\otimes C$;
  • $A\otimes(B+C)=A\otimes B+A\otimes C$;
  • $(kA)\otimes B=k(A\otimes B)=A\otimes(kB)$;
  • $(A\otimes B)(C\otimes D)=(AC)\otimes(BD)$;
  • $(A\otimes B)^\top=A^\top\otimes B^\top$;
  • $A\otimes (B\otimes C)=(A\otimes B)\otimes C$;
  • $I_m\otimes I_n=I_{mn}$;
  • $\mathrm{rank}(A\otimes B)=\mathrm{rank}(A)\cdot\mathrm{rank}(B)$;

进一步,如果 $A\in\mathcal M_m(\mathbb F),B\in\mathcal M_n(\mathbb F)$,且如果运算合法,则:

  • $(A\otimes B)^{-1}=A^{-1}\otimes B^{-1}$;
  • $|A\otimes B|=|A|^n\cdot|B|^m$,注意指数是交换的;
  • $\mathrm{tr}(A\otimes B)=\mathrm{tr}(A)\cdot\mathrm{tr}(B)$;

对于矩阵空间的算子 $\varphi(X)=AXB$,其中 $X\in\mathcal M_{m\times n}(\mathbb F)$,$A\in\mathcal M_m(\mathbb F),B\in\mathcal M_n(\mathbb F)$,如果用 $E_{ij}=e_ie_j^\top$ 作为 $\mathcal M_{m\times n}(\mathbb F)$ 的基,将矩阵 $X$ 的列按顺序拼接为一个列向量,记作 $\mathrm{vec}(X)$,则其表示矩阵为

$$\mathrm{vec}\,\varphi(X)=\mathrm{vec}(AXB)=(A\otimes B^\top)\mathrm{vec}(X).$$

方便起见,在分裂域下展开特征多项式,则 Kronecker 积和 Sylvester 行列式的关系为

$$\left|tI-A\otimes B^\top\right|=\prod_{i=1}^m\prod_{j=1}^n(t-\lambda_i\mu_j)=\mathrm{Res}_x\left[f_A(x),x^nf_B\left(\dfrac tx\right)\right].$$

对矩阵算子 $\varphi(X)=AX-XB$ 等的分析也是类似的。


基本分块与基本空间

如果一个方阵 $A\in\mathcal M_n(\mathbb F)$ 的特征多项式同时也是它的极小多项式,那么其不变因子为

$$1,\ldots,1,f_A(\lambda).$$

Frobenius 矩阵 $F_{f(\lambda)}$ 和友阵 $C_{f(\lambda)}$ 互为转置,后者形如

$$\begin{pmatrix} & & & & -a_0\\1 & & & & -a_1\\ & 1 & & & -a_2\\ & & \ddots & & \vdots\\& & & 1 & -a_{n-1}\end{pmatrix},\quad f(\lambda)=\lambda^n+a_{n-1}\lambda^{n-1}+\cdots+a_1\lambda+a_0,$$

以 $f$ 作为特征多项式和极小多项式。在给定基下,Frobenius 矩阵 $F_{f(\lambda)}$ 张成循环子空间

$$C(\alpha,\varphi)=\mathcal L(\alpha,\varphi(\alpha),\ldots,\varphi^{n-1}(\alpha)),$$

循环向量 $\alpha$ 是上述矩阵第一列对应的标准基向量,生成链如下

$$\alpha\to \varphi(\alpha)\to \cdots \to \varphi^{n-1}(\alpha)\to -a_0\alpha-a_1\varphi(\alpha)-\cdots-a_{n-1}\varphi^{n-1}(\alpha).$$

广义 Jordan 矩阵 $J_{k,P(\lambda)}$ 形如

$$\begin{pmatrix}C_{P(\lambda)} & I & & &\\ & C_{P(\lambda)} & I & & \\ & & \ddots & \ddots &\\ & & & C_{P(\lambda)} & I\\ & & & & C_{P(\lambda)}\end{pmatrix},\quad f(\lambda)=P(\lambda)^k,$$

或者(虽然等价,但我们不使用)

$$\begin{pmatrix}F_{P(\lambda)} & C & & &\\ & F_{P(\lambda)} & C & & \\ & & \ddots & \ddots &\\ & & & F_{P(\lambda)} & C\\ & & & & F_{P(\lambda)}\end{pmatrix},\ C=\begin{pmatrix} \\ 1&\end{pmatrix},\quad f(\lambda)=P(\lambda)^k,$$

以 $f$ 作为特征多项式和极小多项式。所以 $J_{k,P(\lambda)}$ 和 $C_{P(\lambda)^k}$ 是相似的,因此广义 Jordan 矩阵并不常用。分析特征值时,一方面我们可以延拓到分裂域,好处是得到 Jordan 标准型,坏处是不方便区分已有域的特征值;另一方面,我们可以采用广义 Jordan 块(或 Frobenius 块)和 Jordan 块的组合来处理,这样既可以分析已有域上的特征值,还可以得到容易处理的标准结构,其实这就是广义 Jordan 标准型。


一个不变子空间 $U$ 是循环子空间,等价于 $\varphi|_U$ 的不变因子为

$$(1,\ldots,1,f(\lambda))=(1,\ldots,1,P_1(\lambda)^{e_1}\cdots P_k(\lambda)^{e_k}).$$

等价于 $\varphi|_{U}$ 在某组基下表示为友阵 $C_{f(\lambda)}$,等价于 $\varphi|_U$ 的极小多项式等于特征多项式。


直和分解的思路之一是归纳:找不变子空间,证明补空间也是不变子空间,归纳。

$$\begin{pmatrix}A&B\\ C&D\end{pmatrix}\to \begin{pmatrix}A& B\\ &D\end{pmatrix}\to \begin{pmatrix}A&\\ &D\end{pmatrix}.$$

有理标准型几何意义是循环子空间直和分解

$$V=C(\alpha_1,\varphi)\oplus \cdots \oplus C(\alpha_m,\varphi).$$

如果它们从不变因子出发,那么需要注意它们对应的极小多项式存在整除关系;如果它们从初等因子出发,我们知道 Jordan 块是一类特殊的 Frobenius 块,它也是循环子空间的表示阵。

对于 $\varphi$ 在 $V$ 上,有如下充要条件关系,实际上在讨论 $C_{f(\lambda)}$ 的最后一列:

特征多项式 $f(\lambda)$极小多项式 $m(\lambda)$
是极小多项式$\exists\,\alpha:V=C(\alpha,\varphi)$-
是不可约多项式$\forall\,\alpha:V=C(\alpha,\varphi)$$\exists \, \varphi\!\!\mid_{C(\alpha_i,\varphi)}=m(\lambda):V=\bigoplus_i C(\alpha_i,\varphi)$

请注意,Frobenius 标准型的特征多项式不一定是不可约多项式,给定这样一个特征多项式 $f$,也许对全空间 $V$,这个特征多项式和极小多项式是不同的,尽管我们可以构造以 $f$ 为特征多项式和极小多项式的循环子空间 $C(\alpha,\varphi)$,但这两个空间结构是不相干的。


Jordan 标准型推广的几何意义是根子空间直和分解

$$V=\ker P_1(\varphi)^{e_{m1}}\oplus \cdots \oplus \ker P_k(\varphi)^{e_{mk}},$$

满足 $\dim \ker P_i(\varphi)^{e_{mi}}=\sum_{j=1}^m e_{ji}\cdot \deg P_i$,但根子空间不是循环子空间。只有在分裂域上,根子空间才可以继续分解为循环子空间的直和,从而得到 Jordan 标准型。

其他

矩阵环 $\mathcal M_n(\mathbb F)$ 的任意自同构都是内自同构,即对任意 $\varphi\in \mathrm{Aut}(\mathcal M_n(\mathbb F))$,存在可逆矩阵 $P$ 使得 $\varphi(A)=P^{-1}AP$。这说明相似和矩阵环的自同构是等价的。

交换

多项式表出

行列式和迹都具有交换性。定义 $A\in\mathcal M_n(\mathbb F)$ 的多项式环,它是可交换的

$$\mathbb F[A]=\{f(A):f\in\mathbb F[x]\}\subset C(A)=\{B\in\mathcal M_n(\mathbb F):AB=BA\},$$

其中 $C(A)$ 是 $A$ 的中心化子。$\mathbb F[A]=C(A)$ 当且仅当 $A$ 的极小多项式等于特征多项式。


伴随矩阵 $A^*$ 取决于 $A$,即

$$A^*=\begin{cases}|A|A^{-1},& \det A\neq 0,\\ \neq O,& \mathrm{rank}\,A=n-1,\\ O,& \mathrm{rank}\,A\le n-2.\end{cases}$$

对于第一种情况,由 Cayley-Hamilton 定理

$$f(A)=A(A^{n-1}a_n+\cdots+a_1I)+(-1)^n|A|I=O,$$

对于第二种情况,有更一般的结论:如果 $\mathrm{rank}\,A=n-1$,$B\neq O$ 且 $AB=BA=O$,则 $B\in \mathbb F[A]$,因为此时 $B=\alpha \beta^\top$,考虑 $m_A$ 即可;第三种是平凡的。因此不论如何,$A^*\in \mathbb F[A]$ 成立。

同时相似对角化

相似:$\mathbb C,\mathbb R$ 时

一方面,为了应用 Jordan 标准型,我们希望 $\mathbb F$ 是代数闭域或者是特征多项式的分裂域;另一方面,为了研究矩阵函数,我们希望引入度量、范数的概念。方便起见,我们都用 $\mathbb C$ 作为研究对象,前者对于一般分裂域不言自明,后者同样适用于 $\mathbb R$ 的情形,只不过计算起来麻烦一点(可以引入形式虚数)。

一个自然的结果是,如果 $A\in\mathcal M_n(\mathbb F)$ 是幂零的,那么特征值都是 $0$,所以幂零阵可以在 $\mathbb F$ 上用 Jordan 标准型表示。


相似及其 Jordan 过渡阵

除了前面提到的相似全系不变量,在分裂域下还有等价关系:

  • $A,B$ 相似;
  • $A,B$ 的 Jordan 标准型相同;
  • 对 $A,B$ 的每个特征值 $\lambda_0$,$\mathrm{rank}(\lambda_0 I-A)^r=\mathrm{rank}(\lambda_0 I-B)^r$ 对任意 $r\ge 0$;

求解 Jordan 标准型的相似过渡阵,相似过渡阵

$$P^{-1}AP=J,$$

其中 $P$ 的列向量是 $A$ 的特征向量和广义特征向量。求解方法:

  • $\lambda$-相抵变换 $Q(\lambda)(\lambda I-A)P(\lambda)=\lambda I-J$ 中 $P(\lambda)$ 的常数项 $P$ 是过渡阵;
  • 计算 $(\lambda I-A)x=0$ 的解空间,得到特征向量 $\alpha$;计算 $(\lambda I-A)x=\alpha$ 的解空间,得到广义特征向量。由于无法判断哪一个特征向量可以生成哪一个 Jordan 块的广义特征向量,我们一般将考虑 $(\lambda I-A)(k_1\alpha_1+\cdots+k_m\alpha_m)=0$ 的解空间,增加了特征向量的自由度,再用可解条件 $\mathrm{rank}(\lambda I-A | k_1\alpha_1+\cdots+k_m\alpha_m)=\mathrm{rank}(\lambda I-A)$ 来降低自由度。这本质是从特征向量计算循环轨道 $\alpha\to A\alpha\to \cdots$ 得到广义特征向量。
  • 借助循环子空间,从最高阶 Jordan 块的 $0$ 级广义特征向量(求 $(A-\lambda I)^{\deg_{\lambda_0}m_A-1}$ 的解空间),由生成链推出该块的特征向量;依次降低阶数类推,得到所有 Jordan 块的特征向量。

Jordan 标准型

Jordan 矩阵 $J_{n,\lambda_0}$ 形如

$$\begin{pmatrix}\lambda_0 & 1 & & & \\ & \lambda_0 & 1 & & \\ & & \ddots & \ddots & \\ & & & \lambda_0 & 1\\ & & & & \lambda_0\end{pmatrix},$$

以 $f(\lambda)=(\lambda-\lambda_0)^n$ 作为特征多项式和极小多项式。Jordan 矩阵(块)的直和是 Jordan 标准型。实践基于:极小多项式控制 Jordan 块的最大阶数,几何重数控制 Jordan 块的个数,具体分类用整除。最稳方法是求解初等因子组。

空间对于 $\ker (\lambda_0I-A)^{(?)}$维数不变子空间循环子空间关系或补充
特征子空间$1$$g_{\lambda_0}$是$g_{\lambda_0}=1$Jordan 块个数
根子空间$\deg_{(\lambda_0I-A)}m_A$$a_{\lambda_0}$是$g_{\lambda_0}=1$Jordan 块空间的直和
$r$ 阶Jordan 块空间${r}$$r$是是个数见下式

不低于 $r$ 阶 Jordan 块 $J_{k,\lambda_0}$ 的个数为

$$\dim \ker (\lambda_0I-A)^r-\dim \ker (\lambda_0I-A)^{r-1}.$$

等价地,$r$ 阶 Jordan 块 $J_{r,\lambda_0}$ 的个数为

$$\mathrm{rank}(\lambda_0 I-A)^{r-1}+\mathrm{rank}(\lambda_0 I-A)^{r+1}-2\mathrm{rank}(\lambda_0 I-A)^r.$$

这和矩阵广义迹的性质类似。这给出分裂域下相似的等价条件。注意,$\mathrm{rank}((\lambda_0 I-A)^k)$ 随 $k$ 增大严格减小至平稳。

指标行列式因子不变因子初等因子Jordan 块
几何重数$D_{n-g_{\lambda_0}+1}$ 及之后出现$d_{n-g_{\lambda_0}+1}$ 及之后出现共 $g_{\lambda_0}$ 个$\lambda_0$-Jordan 块的总个数
代数重数---$\lambda_0$-Jordan 块的总维数

由于 $g_{\lambda_0}\leq a_{\lambda_0}\leq n$,所以代数重数只能给出个数的估计。


Jordan 标准型在几何上仍然是循环子空间,只不过生成的广义特征向量链需要处理才能得到经典的循环空间的基,前者考虑 $A$,后者就是在考虑 $(A-\lambda I)$,对应幂零的循环阵

$$\begin{pmatrix}& 1 & & & \\ & & 1 & & \\ & & & \ddots & \\ & & & & 1\\ & & & & \end{pmatrix}.$$

这是因为 Jordan 块实际上是对根子空间 $\ker (A-\lambda I)^{\deg_{\lambda}m_A}$ 的循环子空间直和分解,所以循环块Jordan 块形如 $C(\alpha,\varphi-\lambda\cdot \mathrm{id})$,而不是 $C(\alpha,\varphi)$。形式上,Frobenius 块的循环向量是第一个,而 Jordan 块的循环向量是最后一个,且要求最终消失

$$e_n\xrightarrow{A-\lambda I} e_{n-1}\xrightarrow{A-\lambda I} \cdots \xrightarrow{A-\lambda I} e_1\xrightarrow{A-\lambda I} 0.$$

可对角化

对于 $A\in\mathcal M_n(\mathbb C)$,已有前提是特征值都分裂,则以下命题等价:

  • $A$ 可对角化;
  • $A$ 极小多项式无重根;
  • $A$ 的初等因子都是一次多项式;
  • $A$ 的任一不变子空间都存在不变补空间(限制在不变子空间都可以对角化);
  • $A$ 的每个特征值满足 $\ker (\lambda I-A)\cap \mathrm{im}(\lambda I-A)=\{0\}$;
  • $A$ 的每个特征值满足 $\ker (\lambda I-A)+ \mathrm{im}(\lambda I-A)=\mathbb C^n$;
  • $A$ 的每个特征值满足 $\ker (\lambda I-A)\oplus \mathrm{im}(\lambda I-A)=\mathbb C^n$;
  • $A$ 的每个特征值满足 $\ker (\lambda I-A)=\ker (\lambda I-A)^k$ 对于任意 $k\ge 1$;
  • $A$ 的每个特征值满足 $\mathrm{im}(\lambda I-A)=\mathrm{im}(\lambda I-A)^k$ 对于任意 $k\ge 1$;
  • $A$ 的每个特征值满足 $\ker (\lambda I-A)$ 存在不变补空间;
  • $A$ 的每个特征值满足 $\mathrm{im}(\lambda I-A)$ 存在不变补空间;
  • $A$ 的每个特征值的几何重数等于代数重数(即 $g_\lambda\leq a_\lambda$ 取等号);

分解与矩阵函数

根据 Jordan 标准型,$A\in\mathcal M_n(\mathbb C)$ 可以分解为幂零部分和可逆部分,这有利于分析矩阵函数和计算

$$J_{r,\lambda_0}=\lambda_0 I_r+J_{r,0},\quad J_{r,0}^r=O.$$

顺便介绍矩阵函数,收敛、幂级数以及相似不变性是显然的,这里给出 Jordan 块的幂级数计算公式

$$f(J_{r,\lambda_0})=\begin{pmatrix}f(\lambda_0) & f'(\lambda_0) & \frac{f''(\lambda_0)}{2!} & \cdots & \frac{f^{(r-1)}(\lambda_0)}{(r-1)!}\\ & f(\lambda_0) & f'(\lambda_0) & \cdots & \frac{f^{(r-2)}(\lambda_0)}{(r-2)!}\\ & & \ddots & \ddots & \vdots\\ & & & f(\lambda_0) & f'(\lambda_0)\\ & & & & f(\lambda_0)\end{pmatrix}.$$

引入范数为 Frobenius 范数(不要求方阵),对 $A\in\mathcal M_{m\times n}(\mathbb C)$,定义

$$\|A\|_F=\mathrm{tr}(A^\dagger A)^{1/2}=\left(\sum_{i=1}^m\sum_{j=1}^n|a_{ij}|^2\right)^{1/2}.$$

对于 $\mathcal M_n(\mathbb C)$,有

  • $\|A\|_F=\mathrm{tr}(A^\dagger A)^{1/2}=\displaystyle \left(\sum_{i=1}^n|\lambda_i|^2\right)^{1/2}\geq 0$,其中 $\lambda_i$ 是 $A$ 的特征值;
  • $\|A+B\|_F\leq \|A\|_F+\|B\|_F$;
  • $\|AB\|_F\leq \|A\|_F\|B\|_F$;
  • $|\exp (A)|=\exp(\mathrm{tr}\,A)$;

复对称矩阵 $A\in\mathcal M_n(\mathbb C)$,可以指定 $B,C$ 之一可逆,满足

$$A=BC,\quad B,C\text{\ complex symmetric},\ |\det B|+|\det C|>0.$$

Jordan 标准型

  • 所有复矩阵都相似于上三角矩阵;
  • Gerschgorin 圆盘定理:$A$ 的特征值 $\lambda$ 在以下形式的圆盘中 $|z-a_{ii}|\leq \sum_{j\neq i}|a_{ij}|$;
  • Gerschgorin 第二圆盘定理:若 $n$ 阶矩阵 $A$ 的 $n$ 个圆盘分成若干个连通区域,其中某个连通区域恰含 $k$ 个圆盘,则有且仅有 $k$ 个特征值落在该连通区域内。

循环矩阵


相合

设 $A,B\in\mathcal M_n(\mathbb F)$,则以下命题等价:

  • $A,B$ 相合;
  • 存在可逆矩阵 $P$ 使得 $B=P^\top AP$;

显然,对称阵 $A\in\mathcal M_n(\mathbb F)$ 相合于某个对角阵,这是相合标准型的雏形。正是因为其标准型取决于 $\mathbb F$ 的具体性质,所以实用的分解都集中在 $\mathbb F=\mathbb R$ 或 $\mathbb C$ 上。

对称阵

相合:$\mathbb C,\mathbb R$ 时

正定

引入相合的概念是为了研究二次型,其中序关系是不可缺少的概念,因此我们不必要求在 $\mathbb F$ 上研究,转而研究 $\mathbb R,\mathbb C$ 上的二次型和 Hermite 型,以及对应的实对称阵和 Hermite 阵。实对称阵 $A\in\mathcal S_n(\mathbb R)$ 和 Hermite 阵 $A\in\mathcal H_n(\mathbb C)$ 有完全平行的结论,只需要将前者 $x\in\mathbb R^n$ 替换为后者 $x\in\mathbb C^n$,将转置替换为共轭转置即可。

实对称阵(Hermite 阵)关于相合有如下等价命题:

  • $A,B$ 相合;
  • 存在可逆矩阵 $P$ 使得 $B=P^\top AP$;
  • $A,B$ 的惯性指数和秩相同(相合标准型,惯性定理,降阶公式);
  • $A,B$ 的符号差和秩相同。

实对称阵(Hermite 阵)关于(半)正定、(半)负定有平行的结果,在此给出等价关系表格:

二次型$x^\top Ax$顺序主子式任意主子式LDL 分解Cholesky 分解
正定阵$>0$1全正唯一唯一
半正定阵$\geq 0$$1,0$全非负不唯一不唯一
负定阵$<0$$(-1)^k$
半负定阵$\leq 0$$(-1)^k,0$$P_1(\lambda)^{e_{11}}$$P_1(\lambda)^{e_{21}}$$\ldots$

除了实对称阵(Hermite 阵)等价命题的比较,还有许多有用的结论的比较表格:

二次型对角占优顺序主子式任意主子式n-m+2…
正定阵$\mid\! a_{ii}\!\mid\, >\,\mid \! a_{ij}\!\mid,\mid \! a_{ji}\!\mid$1全正
半正定阵$\geq 0$$1,0$全非负$P_1(\lambda)^{e_{21}}$$\ldots$
负定阵$<0$$(-1)^k$
半负定阵$\leq 0$$(-1)^k,0$$P_1(\lambda)^{e_{11}}$$P_1(\lambda)^{e_{21}}$$\ldots$

根据(半)正定和(半)负定的定义,$A$ 默认为实对称阵或 Hermite 阵,可以推广到非对称的情形:

反对称与对称

实(反)对称阵和(反)Hermite 阵有平行的结论

双线性型及其空间

分解

Cholesky 分解(对实对称和 Hermite 阵):$A\in\mathcal S_n(\mathbb R)$,则 $A$(半)正定,等价于有(不)唯一分解

$$A=C^\top C,\quad C\in\mathcal M_n(\mathbb R)\text{ up-tri with positive diag-en}.$$

LDL 分解(对实对称和 Hermite 阵):$A\in\mathcal S_n(\mathbb R)$,则 $A$(半)正定,等价于有(不)唯一分解

$$A=L^\top DL,\quad L\in\mathcal M_n(\mathbb R)\text{ up-tri with $1$ diag-en},\ D\in\mathcal S_n(\mathbb R)\text{ diagonal with positive diag-en}.$$

结式

对于 $\displaystyle f(x)=a_n\prod_{i=1}^n(x-x_i)=\sum_{k=0}^n a_k x^k, \ \displaystyle g(x)=b_m\prod_{j=1}^m(x-y_j)=\sum_{k=0}^m b_k x^k$,有

  • $\displaystyle \mathrm{Res}(f,g)=a_n^m b_m^n\prod_{i=1}^n\prod_{j=1}^m(x_i-y_j)$

xqh没有整理的题目

6.3

实用模型

  • 6.8
  • 循环矩阵:特征值是单位根;

分解

Jordan-Chevalley 分解:$A\in\mathcal M_n(\mathbb F)$,则唯一地有

$$A=S+N,\quad S\text{\ diagonalizable in }\overline {\mathbb F},\ N\text{\ nilpotent},\ SN=NS,\ S,N\in \mathbb F[A].$$

标准型

$\mathbb F$ 上的标准型

$A\in\mathcal M_{m\times n}(\mathbb F)$ 的相抵标准型为

$$A=P\begin{pmatrix}I_r & O\\O & O\end{pmatrix}Q,\quad r=\mathrm{rank}\,A,$$

$\lambda$-矩阵 $A(\lambda)\in \mathcal M_n(\mathbb F[\lambda])$ 的相抵标准型(法式)为

$$\mathrm{diag}(d_1(\lambda),\ldots,d_r(\lambda),0,\ldots,0),\quad d_i(\lambda)\mid d_{i+1}(\lambda),$$

$A\in\mathcal M_n(\mathbb F)$ 的特征矩阵 $\lambda I-A\in \mathcal M_n(\mathbb F[\lambda])$ 的 $\lambda$-相抵标准型(Smith 标准型)为

$$\mathrm{diag}(1,\ldots,1,d_1(\lambda),\ldots,d_m(\lambda)),\quad d_i(\lambda)\mid d_{i+1}(\lambda),$$

$A\in \mathcal M_n(\mathbb F)$ 的有理标准型(Frobenius 标准型)为

$$\mathrm{diag}(C_{d_1(\lambda)},\ldots,C_{d_m(\lambda)})=\mathrm{diag}^\top(F_{d_1(\lambda)},\ldots,F_{d_m(\lambda)}),$$

$A\in\mathcal M_n(\mathbb F)$ 的初等因子组有理标准型为

$$\mathrm{diag}(C_{P_1(\lambda)^{e_{11}}},\ldots,C_{P_1(\lambda)^{e_{m1}}},\ldots,C_{P_k(\lambda)^{e_{1k}}},\ldots,C_{P_k(\lambda)^{e_{mk}}}),$$

写成 Frobenius 块的标准型为

$$\mathrm{diag}(F_{P_1(\lambda)^{e_{11}}},\ldots,F_{P_1(\lambda)^{e_{m1}}},\ldots,F_{P_k(\lambda)^{e_{1k}}},\ldots,F_{P_k(\lambda)^{e_{mk}}}),$$

$\mathbb C,\mathbb R$ 上的标准型

总结

提示

  • 如果题目在基变换后保持不变,则可以考虑标准型;
  • 如果矩阵 $A$ 适合某个多项式,那么这个多项式被 $m_A$ 整除,从而可以约束特征值;
  • 存在特征值的部分可以写成 Jordan 块,不存在特征值的部分可以写成 Frobenius 块;
  • 对于 $\mathbb F$ 的研究:考虑扩域和域扩张相似不变性;考虑 Frobenius 标准形;考虑几何化,用线性空间来分析;
  • 相合和对称阵的问题,采用归纳往往有用;

易错

  • $\lambda$-矩阵不可逆时,作为数字矩阵仍可能可逆;
  • 求相似标准型时,不能用摄动法;
  • 补空间和正交补空间不同,后者才引入内积,前者只需补全基底;
  • 数域在代数数论里指 $\mathbb Q$ 的有限扩域,但我们总是将其等同于域的概念;

习题

Ex.6.57. 设 $V=\mathcal M_n(\mathbb F)$,$\varphi(X)=AXA$(或者 $\varphi(X)=AX-XA$),则 $\varphi,A$ 可对角化等价。

Ex.6.72. 设 $A\in\mathcal M_{m\times n}(\mathbb F),B\in\mathcal M_{n\times m}(\mathbb F)$,$|BA|\neq 0$,则 $AB,BA$ 可对角化等价。

Ex.7.25. 设 $C\in\mathcal M_n(\mathbb F)$,$\mathrm{tr}\,C=0$ 等价于存在 $A,B\in\mathcal M_n(\mathbb F)$,使得 $AB-BA=C$.

Ex.7.55. 设 $J=J_{n,0}\in \mathcal M_n(\mathbb C)$,求 $J^m$ 的 Jordan 标准型。

Ex.7.56. 设 $A\in\mathcal M_m(\mathbb C),B\in\mathcal M_n(\mathbb C)$ 无公共特征值,Jordan 标准型为 $J_1,J_2$,则 $\begin{pmatrix}A & C\\0 & B\end{pmatrix}$ 标准型为 $\begin{pmatrix}J_1 & 0\\0 & J_2\end{pmatrix}$.

Ex.7.62. 设 $A\sim J=\{0,J_{2,0},J_{3,0},J_{3,0}\}$,求 $A^2$ 的 Jordan 标准型。求过渡阵。

Ex.7.98. 设 $A\in\mathcal M_n(\mathbb F)$,则 $A$ 是循环空间的充要条件是 $A$ 只有有限个不变子空间。

Ex.1. 设 $\mathbb F$ 为数域,$A\in\mathcal M_m(\mathbb F),B\in\mathcal M_n(\mathbb F)$,并且 $\varphi:\mathcal M_{m\times n}(\mathbb F)\to\mathcal M_{m\times n}(\mathbb F)$,$\varphi(X)=AXB$,证明

$$\mathrm{Spec}(A\otimes B^\top)=\{\lambda_i\mu_j\mid \lambda_i\in\mathrm{Spec}(A),\mu_j\in\mathrm{Spec}(B)\},$$

其中 $\mathrm{Spec}(A)\subset\overline {\mathbb F}$,整个结论是在代数闭域或分裂域上成立的。如果只限制在一般域 $\mathbb F$ 上,则存在反例。

6.91/6.105


Kronecker 积

$A\in M_m(\mathbb F)$,$B\in M_n(\mathbb F)$ 的 Kronecker 积(张量积)是 $mn\times mn$ 分块矩阵

$$A\otimes B=(a_{ij}B),\qquad (A\otimes B)_{(i,k),(j,l)}=a_{ij}b_{kl}.$$

基本性质:

  • 混合积:$(A\otimes B)(C\otimes D)=(AC)\otimes(BD)$,从而 $(A\otimes B)^{-1}=A^{-1}\otimes B^{-1}$;
  • $\det(A\otimes B)=(\det A)^n(\det B)^m$,$\mathrm{tr}(A\otimes B)=\mathrm{tr}\,A\cdot\mathrm{tr}\,B$,$(A\otimes B)^*=A^*\otimes B^*$;
  • 特征值相乘:若 $\lambda_i,\mu_j$ 分别是 $A,B$ 的特征值,则 $A\otimes B$ 的特征值为 $\lambda_i\mu_j$,$A\otimes I+I\otimes B$ 的特征值为 $\lambda_i+\mu_j$(两两组合);
  • vec 算子:$\mathrm{vec}(AXB)=(B^T\otimes A)\mathrm{vec}(X)$,把矩阵方程化为线性方程组,例如 Sylvester 方程 $AX-XB=C$ 可化为 $(I\otimes A-B^T\otimes I)\mathrm{vec}(X)=\mathrm{vec}(C)$;
  • 与多项式部分的呼应:循环矩阵 $C=\mathrm{circ}(a_0,\ldots,a_{n-1})$ 可被 DFT 矩阵对角化,其特征值为 $a_0+a_1\omega^k+\cdots+a_{n-1}\omega^{(n-1)k}$($\omega$ 为单位根),这正是单位根与分圆多项式在矩阵上的体现。

内积空间

内积与范数

实/复线性空间 $V$ 上的内积 $\langle\cdot,\cdot\rangle$ 是满足共轭对称性、对第一变元线性和正定性 $\langle v,v\rangle>0\ (v\neq 0)$ 的二元函数(实空间即对称正定双线性型)。内积诱导范数 $\|v\|=\sqrt{\langle v,v\rangle}$,核心不等式是 Cauchy-Schwarz 不等式

$$|\langle u,v\rangle|\le\|u\|\,\|v\|,$$

等号成立当且仅当 $u,v$ 线性相关;由此推出三角不等式 $\|u+v\|\le\|u\|+\|v\|$。反过来,满足平行四边形恒等式

$$\|u+v\|^2+\|u-v\|^2=2\|u\|^2+2\|v\|^2$$

的范数必由内积诱导,且可由极化恒等式恢复内积

$$\langle u,v\rangle=\frac{\|u+v\|^2-\|u-v\|^2}{4}\quad(\mathbb R),\qquad \langle u,v\rangle=\frac14\sum_{k=0}^{3}i^k\|u+i^k v\|^2\quad(\mathbb C).$$

正交基与正交化

  • 正交:$\langle u,v\rangle=0$,此时成立勾股定理 $\|u+v\|^2=\|u\|^2+\|v\|^2$;
  • Gram-Schmidt 正交化:由线性无关组 $\{v_i\}$ 递归构造正交组 $$e_k=v_k-\sum_{i标准正交基;
  • 正交化过程的信息编码在 Gram 矩阵 $G=(\langle v_i,v_j\rangle)$ 中:$\det G\neq 0$ 当且仅当 $\{v_i\}$ 线性无关(实情形下线性无关时 $G$ 正定);
  • 在标准正交基下内积化为标准内积,成立 Parseval 恒等式 $\|v\|^2=\sum_i|\langle v,e_i\rangle|^2$,坐标即 Fourier 系数 $\langle v,e_i\rangle$。

正交补与投影

  • 正交补 $U^\perp=\{v\in V:\langle v,u\rangle=0\ \forall u\in U\}$ 是子空间,且 $V=U\oplus U^\perp$,$\dim U^\perp=\dim V-\dim U$,$(U^\perp)^\perp=U$;
  • 投影定理:$v$ 到 $U$ 的距离 $\min_{u\in U}\|v-u\|$ 由正交投影 $P_Uv$ 实现,且 $v-P_Uv\in U^\perp$;$P_U$ 是幂等自伴算子 $P_U^2=P_U=P_U^*$;
  • 正交投影的坐标公式:若 $U$ 有标准正交基 $\{e_i\}$,则 $P_Uv=\sum_i\langle v,e_i\rangle e_i$;
  • 最小二乘:解不相容方程 $Ax=b$ 时,最小二乘解 $x$ 使残差与列空间正交,即满足法方程 $$A^*Ax=A^*b,$$ 若 $A$ 列满秩则 $x=(A^*A)^{-1}A^*b$ 唯一;利用 $A=QR$($Q$ 列正交)可化简为 $Rx=Q^*b$。

伴随算子与谱定理

  • 伴随算子 $\varphi^*$ 由 $\langle\varphi u,v\rangle=\langle u,\varphi^*v\rangle$ 定义;标准正交基下矩阵为共轭转置 $A^*=\overline{A^T}$(实为转置 $A^T$);
  • 自伴算子(实对称 / 复 Hermite):$\varphi^*=\varphi$。特征值全为实数,不同特征值的特征向量正交;实对称矩阵可正交对角化:$A=Q\Lambda Q^T$,$Q$ 正交;
  • 正规算子:$\varphi\varphi^*=\varphi^*\varphi$(包含自伴、酉、正交、反自伴)。谱定理:复空间上 $\varphi$ 可酉对角化 $\iff$ $\varphi$ 正规;实空间上 $\varphi$ 可正交对角化 $\iff$ $\varphi$ 自伴;
  • 酉矩阵 $U^*U=I$(实为正交矩阵 $Q^TQ=I$):保内积与范数(等距),特征值模长为 1;正交矩阵 $\det Q=\pm 1$;
  • 若 $A,B$ 都正规且可交换,则它们可同时酉对角化。

谱分解、极分解与奇异值分解

  • 谱分解:自伴 $\varphi=\sum_i\lambda_iP_i$,$P_i$ 是特征子空间上的正交投影,满足 $P_iP_j=0\ (i\neq j)$、$\sum_iP_i=I$;
  • 正定算子:特征值全为正,有唯一正定平方根;对任意 $A$,$|A|=\sqrt{A^*A}$ 半正定,极分解 $A=U|A|$($U$ 酉)把 $A$ 分解为“旋转 + 伸缩”;
  • 奇异值分解 (SVD):任意 $A\in M_{m\times n}(\mathbb C)$ 可写为 $$A=U\Sigma V^*,\qquad \Sigma=\mathrm{diag}(\sigma_1,\ldots,\sigma_r,0,\ldots,0),$$ $U,V$ 酉,$\sigma_i=\sqrt{\lambda_i(A^*A)}$ 为奇异值(非负,降序排列)。推论:
  • $\mathrm{rank}\,A=r$,$\mathrm{im}\,A$、$\ker A$ 分别由 $U,V$ 的前 $r$ 列张成;
  • 谱范数 $\|A\|_2=\sigma_{\max}$,Frobenius 范数 $\|A\|_F=\sqrt{\sum\sigma_i^2}$;
  • Eckart-Young 定理:秩 $k$ 最佳逼近为 $\sum_{i=1}^k\sigma_iu_iv_i^*$,误差为 $\sigma_{k+1}$——这是 PCA 与数据压缩的数学基础。

二次型与惯性定理

  • 对称双线性型 $q(x)=x^TAx$($A=A^T$)为二次型,换基对应合同 $A\mapsto P^TAP$;
  • 惯性定理:实对称矩阵合同于 $\mathrm{diag}(I_p,-I_q,0)$,$(p,q)$(正、负惯性指数)与秩 $p+q$ 构成完全合同不变量;
  • Sylvester 判据:$A$ 正定 $\iff$ 各阶顺序主子式全为正 $\iff$ 特征值全为正 $\iff$ 存在可逆 $P$ 使 $A=P^TP$;
  • 主轴定理:实对称矩阵正交相似于对角阵,即二次型经正交变换化为标准型 $\sum_i\lambda_iy_i^2$,主轴方向即特征向量——谱定理在二次型上的体现;
  • 二次型与内积的联系:正定二次型即内积,$A=P^TP$ 表明正定矩阵给出新内积 $\langle x,y\rangle=x^TAy$。

6.1