Katex 文档: https://katex.org/docs/support_table.html

# 空间

空间本身是一个抽象的概念，向量空间也是一个概念，空间从抽象概念上来讲可以是任何东西构成的 (如颜色空间)

# 矩阵分解

# 矩阵分解

• PLU 分解: $A=PLU$

  • 要求：方阵

  • P 为初等变换矩阵，L 为下三角矩阵，U 为上三角矩阵

  • 当 P 取单位矩阵时则退化为 LU 分解

  • 应用：高斯消元求解矩阵方程

例子 (对下式进行 PLU 分解)：

$$A= \begin{bmatrix} 9 & 6 & 0 \\ 6 & 5 & 4 \\ 3 & 4 & 10 \end{bmatrix}$$

将上式第一行 *$-\cfrac{2}{3}$ 加到第二行，等价于左乘变换矩阵:

$$A_0= \begin{bmatrix} 9 & 6 & 0 \\ 0 & 1 & 4 \\ 3 & 4 & 10 \end{bmatrix} = \begin{bmatrix} 1 & 0 & 0 \\ -\cfrac{2}{3} & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix} A$$

再将第一行 *$-\cfrac{1}{3}$ 加到第三行：

$$A_1= \begin{bmatrix} 9 & 6 & 0 \\ 0 & 1 & 4 \\ 0 & 2 & 10 \end{bmatrix} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ -\cfrac{1}{3} & 0 & 1 \end{bmatrix} A_0$$

第二行向下减两倍：

$$A_2= \begin{bmatrix} 9 & 6 & 0 \\ 0 & 1 & 4 \\ 0 & 0 & 2 \end{bmatrix} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & -2 & 1 \end{bmatrix} A_1$$

得出:

$$U=A_2=E_2E_1E_0A \\ L=(E_2E_1E_0)^{-1} \\ A =LU$$

如果我们需要进行两行互换，就会产生 P 矩阵。

# 乔里斯基 (Cholesky) 分解

• A=LL^
  • 要求：方阵、正定、实对称 / 埃尔米特
  • L 为下三角矩阵
  • 应用：高效求解 (稀疏) 矩阵方程

不带证明举例:

$$\begin{bmatrix} 4 & 12 & -16 \\ 12 & 37 & -43 \\ -16 & -43 & 98 \end{bmatrix} = \begin{bmatrix} 2 & 0 & 0 \\ 6 & 1 & 0 \\ -8 & 5 & 3 \end{bmatrix} \begin{bmatrix} 2 & 6 & -8 \\ 0 & 1 & 5 \\ 0 & 0 & 3 \end{bmatrix}$$

通常在计算机方程运算中，乔里斯基分解的时间复杂度为$N^2$，这个是比LU分解要好的

LU 分解求解方程:

$$Ax = b \\ (LU)x=b \\ L(Ux)=b=Ly \\ Ux=y \\ x=U^{-1}y$$

# QR 分解

• A=QR
  • 要求: $A_{m×n}$ 列满秩，m>=n
  • $Q_{m×m}$ 为幺正 (酉) 矩阵，$R_{m×n}$ 为上三角矩阵
  • 非方阵时 R 的下半部分是零矩阵
  • 求解：施密特正交化、吉文斯变换或豪斯霍尔德变换
  • 应用：高效求解 (稠密) 矩阵方程；分解形变梯度

举例:

$$A= \begin{bmatrix} 1 & 2 & 2 \\ 2 & 1 & 2 \\ 1 & 2 & 1 \end{bmatrix}$$

施密特正交化后归一化得到 Q 矩阵:

$$b_1 =a_1=(1,2,1) \\ b_2 = a_2 - b_1 = (1,-1,1) \\ b_3 = a_3 - \cfrac{1}{3}b_2-\cfrac{7}{6}b_1 = (\cfrac{1}{2},0,-\cfrac{1}{2}) \\ Q = \begin{bmatrix} \cfrac{1}{\sqrt{6}} & \cfrac{1}{\sqrt{3}} & \cfrac{1}{\sqrt{2}} \\ \cfrac{2}{\sqrt{6}} & -\cfrac{1}{\sqrt{3}} & 2 \\ \cfrac{1}{\sqrt{6}} & \cfrac{1}{\sqrt{3}} & -\cfrac{1}{\sqrt{2}} \end{bmatrix}$$

R 是由正交化时得到的系数 归一化系数矩阵 * 计算单位向量的系数

# 奇异值分解 (Singular value decomposition,SVD)

• $A=U\Sigma_{}V^H$
  • 要求: A_
  • $U_{m×m}$ 为幺正矩阵、$V_{n×n}$ 为幺正矩阵、$\Sigma_{m×n}$ 为对角矩阵
  • 对角矩阵中的元素称为奇异值，均为非负
  • 若 m=n，则有\sqrt{A^{H}A}=\sqrt{V\Sigma^{2}V^{H}}=V|\Sigma_{}|V^
    • 当 A 为实对称正定矩阵时，特征值与奇异值重合

表现上就是将一次变换分解成三次变换