矩阵(matrix)

1.什么是矩阵

1.1 矩阵的应用

解线性规划问题。
1. 某工厂要用三种原料1、2、3混合调配出三种不同规格的产品甲、乙、丙，数据如表所示。问:该厂应如何安排生产，使利润收入为最大?
2. 某钢管零售商从钢管厂进货，将钢管按照顾客的需求切割后售出。从钢管厂进货时得到原料钢管都是19m长。现有一客户需要50根4m长，20根6m长和15 根8m长的钢管，应如何下料最节省?
解线性方程(linear equation)。
见克莱姆法则
最小二乘拟合。

1.2 矩阵的定义

跟行列式类似，是由m行n列的元素组成。矩阵用 $A_{mn}$ 表示，第m行、第n列上的元素则同样用 $a_{mn}$ 表示。

1.3 矩阵与行列式的区别

	行列式	矩阵
本质	是一个多项式（行列式最后求值都能得到一个数）	是一些数组成的表
符号	用两根竖线表示： $\begin{vmatrix} 1 & 1 & 1 \\ 1 & -1 & 5 \\ -1 & 1 & 6 \end{vmatrix}$	用小括号或者中括号表示： $\begin{pmatrix} 1 & 1 & 1 \\ 1 & -1 & 5 \\ -1 & 1 & 6\end{pmatrix}$
形状	行数 = 列数	行数不一定等于列数
数乘	行列式乘以一个数，等于行列式某一行的元素都乘以这个数	矩阵乘以一个数，等于矩阵所有元素都乘以这个数

1.4 矩阵的类型

实矩阵，由一行元素组成： $\begin{pmatrix} 1 & 2 & 3 \end{pmatrix}$
复矩阵，由一列元素组成： $\begin{pmatrix} 1 \\ 2 \\ 3\end{pmatrix}$
零矩阵，元素全为0的矩阵： $\begin{pmatrix} 0 & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0\end{pmatrix}$
n阶方阵，行数=列数的矩阵： $\begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ 7 & 8 & 9\end{pmatrix}$
单位阵， $E_n$ 或 $I_n$ 表示，主对角线全为1、其余元素全为0的方阵： $E_3 = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix}$
负矩阵，将矩阵A中的元素符号全换过来，则得到A的负矩阵-A
同型矩阵，形状相同的矩阵就是互为同型矩阵（如 $A_{23}$ 和 $B_{23}$ ）

2.矩阵的运算

【加法】

同一行同一列上的元素相加，得到新的矩阵。需要同型矩阵才能相加。

$\begin{pmatrix} A_1 & A_2 \\ A_3 & A_4 \end{pmatrix} + \begin{pmatrix} B_1 & B_2 \\ B_3 & B_4 \end{pmatrix} = \begin{pmatrix} A_1 + B_1 & A_2 + B_2 \\ A_3 + B_3 & A_4 + B_4 \end{pmatrix}$

【减法】

同一行同一列上的元素相加，得到新的矩阵。需要同型矩阵才能相减。

$\begin{pmatrix} A_1 & A_2 \\ A_3 & A_4 \end{pmatrix} - \begin{pmatrix} B_1 & B_2 \\ B_3 & B_4 \end{pmatrix} = \begin{pmatrix} A_1 - B_1 & A_2 - B_2 \\ A_3 - B_3 & A_4 - B_4 \end{pmatrix}$

【数乘】

矩阵与一个数相乘，等于矩阵中所有元素跟这个数相乘得到的矩阵。

$k \begin{pmatrix} A_1 & A_2 \\ A_3 & A_4 \end{pmatrix} = \begin{pmatrix} kA_1 & kA_2 \\ kA_3 & kA_4 \end{pmatrix}$

【乘法】

两个矩阵能相乘有一个前提：A矩阵的行数=B矩阵的列数。

结果矩阵 = $A_{ab} \times B_{bc} = C_{ac}$

则求 $C_{ac}$ 的每一个元素 $c_{mn} = a_{m1} \times b_{1n} + a_{m2} \times b_{2n} ... + a_{mb} \times b_{bn}$
即C矩阵第m行n列的元素的值，为A矩阵第m行的元素与B矩阵第n列的元素一一相乘并相加。

示例：
$A_{23} = \begin{pmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \end{pmatrix}$
$B_{34} = \begin{pmatrix} b_{11} & b_{12} & b_{13} & b_{14} \\ b_{21} & b_{22} & b_{23} & b_{24} \\ b_{31} & b_{32} & b_{33} & b_{34} \end{pmatrix}$

$C_{24} = \begin{pmatrix} a_{11} \times b_{11} + a_{12} \times b_{21} + a_{13} \times b_{31} & a_{11} \times b_{12} + a_{12} \times b_{22} + a_{13} \times b_{32} & a_{11} \times b_{13} + a_{12} \times b_{23} + a_{13} \times b_{33} & a_{11} \times b_{14} + a_{12} \times b_{24} + a_{13} \times b_{34} \\ a_{21} \times b_{11} + a_{22} \times b_{21} + a_{23} \times b_{31} & a_{21} \times b_{12} + a_{22} \times b_{22} + a_{23} \times b_{32} & a_{21} \times b_{13} + a_{22} \times b_{23} + a_{23} \times b_{33} & a_{21} \times b_{14} + a_{22} \times b_{24} + a_{23} \times b_{34} \end{pmatrix}$

乘法满足分配律、结合律：

结合律：(AB)C = A(BC)
结合律2：(kA)B = A(kB)
分配律：(A+B)C = AC + BC

【幂】

$A^k = A \times A ... \times A(K个)$
$A^0 = E$
$(AB)^k \neq A^k \times B^k$
$(A+B)^2 \neq A^2 + B^2 + 2AB$
$(A+E)^2 = A^2 + E^2 + 2AE$

【转置】

将矩阵A的元素下标列转成行，行转成列。用 $A^T$ 或者A'表示。

$A_{23} = \begin{pmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \end{pmatrix}$
转置后，则为： $A^T = A' = \begin{pmatrix} 1 & 4 \\ 2 & 5 \\ 3 & 6 \end{pmatrix}$

转置有以下性质：
$(A^T)^T = A$
$(A+B)^T = A^T +B^T$
$(kA)^T = k(A^T)$
$(AB)^T = B^T \times A^T$

3.一些特殊的矩阵

【单位矩阵】

对角线上的元素全为1的矩阵，用E表示。

【数量矩阵】

对角线上的元素全为n的矩阵。

【标准型矩阵】

左上角到右下角，连续出现1，然后出现0的矩阵；

这种标准型矩阵又称为对角线标准型。

示例： $\begin{pmatrix} 1 & 0 & 0\\ 0 & 1 & 0\\ 0 & 0 & 0\end{pmatrix}$

除了对角线标准型，还有可逆标准型、Jordan标准型

【对角形矩阵】

对角线上的元素不为0，其他元素全为0。用diag(a1,a2...an)表示。

【上三角形矩阵】

只有主对角线（从左上到右下）的元素以及主对角线以上的元素不为0，其他元素全为0

【下三角形矩阵】

只有主对角线（从左上到右下）的元素以及主对角线以下的元素不为0，其他元素全为0

【对称矩阵】

当一个矩阵的所有元素，都满足 $a_{ij} = a_{ji}$ ，则该矩阵为对称矩阵。

对称矩阵的转置等于本身。

【反对称矩阵】

当一个矩阵的所有元素，都满足 $a_{ij} = -a_{ji}$ ，则该矩阵为反对称矩阵。

因为 $a_{ii} = - a_{ii}$ ，所以 $a_{ii} = 0$ ，即反对称矩阵主对角线上的元素均为0。

【行阶梯型矩阵】（重要）

当一个矩阵，从上到下，非零行的首非零元左边零的个数会逐行严格增加，则该矩阵为行阶梯型矩阵。

【首非零元】：每一行第一个不为0的元素，就是首非零元。
【严格增加】：下一行零的个数一定比上一行的多，相等也不行。

示例：

$\begin{pmatrix} 1 & 2 & 3 & 4\\ 0 & 1 & 2 & 3\\ 0 & 0 & 0 & 3\\ 0 & 0 & 0 & 0\end{pmatrix}$

$\begin{pmatrix} 0 & 0 & 3 & 4\\ 0 & 0 & 0 & 3\\ 0 & 0 & 0 & 0\\ 0 & 0 & 0 & 0\end{pmatrix}$

反例：

$\begin{pmatrix} 1 & 2 & 3 & 4\\ 0 & 0 & 3 & 3\\ 0 & 0 & 3 & 4\\ 0 & 0 & 0 & 5\end{pmatrix}$

第2行、第3行首非零元右边0的个数均为2，不是严格增加，因此不是阶梯型。

【行简化阶梯型矩阵】（重要）

当一个矩阵是阶梯型矩阵，且：

非零行的首非零元为1；
首非零元所在列的其余元素都是0。

示例：
$\begin{pmatrix} 1 & 0 & 0 & 4\\ 0 & 1 & 0 & 3\\ 0 & 0 & 1 & 3\\ 0 & 0 & 0 & 0\end{pmatrix}$

4.矩阵的属性

矩阵有以下一些属性：

特征值
特征向量
行列式

特征值与特征向量，待后面讲到向量时再展开。下面先了解矩阵的行列式。

4.1矩阵（方阵）的行列式

对于矩阵A，它的行列式用|A|表示。

4.2方阵行列式的初等变换

1： $|A^T| = |A|$

对应行列式的转置： $D^T = D$ 。即转置的行列式展开后与原来的行列式相等。

2： $|kA| = k^n|A|$

对应行列式的数乘：某一行都乘以K，等于行列式乘以K。

3： $|A \times B | = |A| \times |B|$

5.方阵的伴随矩阵(Adjoint matrix)

【如何求伴随矩阵】

假设有以下3阶方阵：

$A_{33} = \begin{pmatrix} 1 & 1 & 1 \\ 2 & 1 & 3 \\ 1 & 1 & 4 \end{pmatrix}$

求出矩阵A上每个元素的代数余子式

$A_{11} = 1$ | $A_{12} = -5$ | $A_{13} = -1$
$A_{21} = -3$ | $A_{22} = 3$ | $A_{23} = 0$
$A_{31} = 2$ | $A_{32} = -1$ | $A_{33} = -1$

将按行求出的代数余子式，按列放，构成矩阵A的伴随矩阵 ，用 $A^\ast$ 表示。

$A^\ast = \begin{pmatrix} 1 & -3 & 2 \\ -5 & 3 & -1 \\ -1 & 0 & -1 \end{pmatrix}$

【伴随矩阵的性质】

$A \times A^\ast = A^\ast \times A = |A|E$
推论：若 |A| !=0,则 $|A^\ast| = |A|^{n-1}$ ，其中n为矩阵A的阶数。
$A^\ast = |A| A^{-1}$ ，其中 $A^{-1}$ 为A的逆矩阵（后面介绍）。
$(A^\ast)^\ast = |A|^{n-2} A$

6.方阵的逆矩阵(Inverse matrix)

【定义】
对于n阶方阵A，若有n阶方阵B，满足 $A \times B = B \times A = E$ ，则B为A的逆矩阵，也可以记为 $A^{-1}$ 。

【性质】

未必所有方阵都可逆
若可逆，则可逆矩阵唯一
$(A^{-1})^{-1} = A$
若A、B矩阵均可逆，则 $(AB)^{-1} = B^{-1}A^{-1}$ （与转置类似： $(AB)^{T} = B^{T}A^{T}$ ）
若A可逆， $(A^T)^{-1} = (A^{-1})^T$
若A可逆， $(kA)^{-1} = \frac{1}{k} A^{-1}$
若A可逆， $|A^{-1}| = |A|^{-1}$
若A可逆，则 $A^\ast$ （伴随矩阵）也可逆

【什么时候方阵可逆】
定理： A方阵可逆的充分必要条件为 $|A| \neq 0$ ，即A的行列式不等于0，则A方阵可逆。

下面介绍如何求A方阵的逆矩阵。

伴随矩阵法

通过伴随矩阵的性质1，

A \times A^\ast = A^\ast \times A = |A|E

等号两边同时除以A的行列式：

A \times \frac{A^\ast}{|A|} = \frac{A^\ast}{|A|} \times A = E

再结合逆矩阵的定义：

A \times B = B \times A = E

可推导出：

A^{-1} = \frac{A^*}{|A|}

初等变换法（推荐）

见后面。

7.解矩阵方程

需要注意以下几点：

矩阵只能与矩阵相加减。
等号两边消项时，要同时左乘或者同时右乘。
不要把矩阵放到分母，而应该写成逆矩阵。
取逆矩阵时，需要先判断矩阵是否可逆。
取逆矩阵时，要用初等变换法去求，而不要用伴随矩阵法（因为计算复杂）

8.分块矩阵

【定义】

假设有以下3阶方阵：

$\begin{pmatrix} 1 & 1 & 1 \\ 2 & 1 & 3 \\ 1 & 1 & 4 \end{pmatrix}$

将矩阵分成以下4个矩阵：

$\begin{pmatrix} 1 & 1 \\ 2 & 1 \end{pmatrix}$ $\begin{pmatrix} 1 \\ 3 \end{pmatrix}$

$\begin{pmatrix} 1 & 1 \end{pmatrix}$ $\begin{pmatrix} 4 \end{pmatrix}$

并且重新组成一个矩阵：

$A' = \begin{pmatrix} A_1 & A_2 \\ A_3 & A_4 \end{pmatrix}$

则将A'称为分块矩阵。除了上面的分法，还可以按别的方法去分；分出的块大小不限制，只要切分后仍为矩阵即可。

【计算】

加法： $\begin{pmatrix} A_1 & A_2 \\ A_3 & A_4 \end{pmatrix} + \begin{pmatrix} B_1 & B_2 \\ B_3 & B_4 \end{pmatrix} = \begin{pmatrix} A_1 + B_1 & A_2 + B_2 \\ A_3 + B_3 & A_4 + B_4 \end{pmatrix}$

数乘： $k \begin{pmatrix} A_1 & A_2 \\ A_3 & A_4 \end{pmatrix} = \begin{pmatrix} kA_1 & kA_2 \\ kA_3 & kA_4 \end{pmatrix}$

乘法： $\begin{pmatrix} A_1 & A_2 \\ A_3 & A_4 \end{pmatrix} + \begin{pmatrix} B_1 & B_2 \\ B_3 & B_4 \end{pmatrix} = \begin{pmatrix} A_1B_1 + A_2B_3 & A_1B_2 + A_2B_4 \\ A_3B_1 + A_4B_3 & A_3B_2 + A_4B_4 \end{pmatrix}$

两分块矩阵可相乘的前提： $A_{ik}$ 必须与 $B_{kj}$ 可乘。
那什么时候不可乘呢？见2.矩阵的运算

转置：
$A = \begin{pmatrix} A_1 & A_2 & A_3\\ A_4 & A_5 & A_6 \end{pmatrix}$
$A^T = \begin{pmatrix} A_1^T & A_4^T \\ A_2^T & A_5^T \\ A_3^T & A_6^T \end{pmatrix}$

9.初等变换（重要）

初等变换：elementary transformation

9.1 什么是初等变换

就是将一个矩阵，变成另一个同型矩阵。

9.2 有哪些常见的初等变换

交换两行
$\begin{pmatrix} A_1 & A_2 & A_3\\ B_4 & B_5 & B_6\\ C_4 & C_5 & C_6 \end{pmatrix}$ --> $\begin{pmatrix} A_1 & A_2 & A_3\\ C_4 & C_5 & C_6\\ B_4 & B_5 & B_6 \end{pmatrix}$
用k(k!=0)乘以其中的某一行
$\begin{pmatrix} A_1 & A_2 & A_3\\ B_4 & B_5 & B_6\\ C_4 & C_5 & C_6 \end{pmatrix}$ --> $\begin{pmatrix} A_1 & A_2 & A_3\\ kB_4 & kB_5 & kB_6\\ C_4 & C_5 & C_6 \end{pmatrix}$
某一行的n倍加的另外一行
$\begin{pmatrix} A_1 & A_2 & A_3\\ B_4 & B_5 & B_6\\ C_4 & C_5 & C_6 \end{pmatrix}$ --> $\begin{pmatrix} A_1+4C_1 & A_2+4C_2 & A_3+4C_3\\ kB_4 & kB_5 & kB_6\\ C_4 & C_5 & C_6 \end{pmatrix}$

当A是方阵时，矩阵的行列式满足行列式的初等变换。（见行列式-6.行列式的初等变换）

9.3 矩阵的等价

定义：当A矩阵经过一系列的初等变换操作，变成B矩阵，则A与B两个矩阵是等价的。用 $A \cong B$ 表示。

等价矩阵的性质

反身性
$A \cong A$
对称性
若 $A \cong B$ ，则有 $B \cong A$
传递性
若 $A \cong B$ ， $B \cong C$ ，则有 $A \cong C$

任意矩阵都可以通过初等变换，转化成标准型

初等变换后的矩阵，与原矩阵的秩相同。
初等变换后的矩阵，不改变原矩阵列向量之间的线性关系。

什么是线性关系？

9.4 初等方阵

定义

对单位矩阵E做一次初等变换（行、列）得到的矩阵

3种初等方阵

对换阵：
通过交换两行得到的初等方阵，写作E(i,j)。即i行和j行交换后得到的初等方阵；

行列式：|E(i,j)| = -1

倍乘阵：
E(i(k))。即用k乘以第i行得到的初等方阵；

行列式：|E(i(k))| = k (k!=0)

倍加阵：
E(i,j(k))。即用k乘以第j行，然后加到第i行上得到的初等方阵。

行列式：|E(i,j(k))| = 1

初等方阵的性质

初等方阵均可逆
其逆矩阵也是初等方阵
其转置矩阵也是初等方阵

9.5 初等方阵与初等变换

实际验证后可知：
用初等方阵左乘A矩阵，相当于对A作相应的行初等变换；
用初等方阵右乘A矩阵，相当于对A作相应的列初等变换；

比如，对3行4列的矩阵A $\begin{pmatrix} 1 & 2 & 3 & 3\\ 4 & 5 & 6 & 6\\ 7 & 8 & 9 & 9 \end{pmatrix}$ ：

想交换2、3两行，就左乘一个3行3列的对换阵 $E(2,3)=\begin{pmatrix} 1 & 0 & 0\\ 0 & 0 & 1\\ 0 & 1 & 0 \end{pmatrix}$ ；

想交换2、3两列，就右乘一个4行4列的对换阵 $E(2,3)=\begin{pmatrix} 1 & 0 & 0 & 0\\ 0 & 1 & 0 & 0\\ 0 & 0 & 1 & 0\\ 0 & 0 & 0 & 1 \end{pmatrix}$ ；

初等变换的定理

定理1：对任意矩阵A，可以通过一系列的初等变换，最终化为标准型矩阵

定理1推论：若A、B等价 <====> 存在P、Q， PAQ = B

定理2：A可逆的充要条件为 A的标准型为单位矩阵E

通过初等变换，将矩阵化为标准型（重要）

温习一下什么是（对角线）标准型矩阵：左上角到右下角，连续出现1，然后出现0的矩阵

标准型矩阵： $A = \begin{pmatrix} 1 & 0 & 0\\ 0 & 1 & 0\\ 0 & 0 & 0 \end{pmatrix}$

初等变换求逆矩阵（重要）

假设要对矩阵A求逆矩阵 $A^{-1}$ ；

首先，A必须是方阵，非方阵没有逆矩阵；
由定理2可知，逆矩阵 $A^{-1}$ 可以通过对单位矩阵E进行一系列初等变换求得： $Q_1 Q_2 ... Q_n E = A^{-1}$
左右两边同时右乘矩阵A，则有： $Q_1 Q_2 ... Q_n A = E$
由1、2中的式子，我们可以发现：只要我们把“将A变换成单位矩阵E进行的初等行变换”用到单位矩阵E上，便可以求得A的逆矩阵。

例题：

$A = \begin{pmatrix} 1 & 0 & 1\\ 2 & 1 & 0\\ -3 & 2 & 5 \end{pmatrix}$ ，求A的可逆矩阵。

答：

我们先将A矩阵和单位矩阵以下面的形式写下来：

$(A,E) =\left( \begin{array}{ccc:ccc} 1 & 0 & 1 & 1 & 0 & 0\\ 2 & 1 & 0 & 0 & 1 & 0\\ -3 & 2 & 5 & 0 & 0 & 1\end{array} \right)$

左边的3x3是A矩阵，右边的3x3是单位矩阵。

只要将左边的3x3通过初等行变换（左乘）转换成单位矩阵E，则右边的3x3就是A的可逆矩阵。

下面开始对矩阵进行初等行变换。

第1行乘以-2，再加到第2行，可以将 $a_{21}$ 变为0

$(A,E) =\left( \begin{array}{ccc:ccc} 1 & 0 & 1 & 1 & 0 & 0\\ 0 & 1 & -2 & -2 & 1 & 0\\ -3 & 2 & 5 & 0 & 0 & 1\end{array} \right)$

第1行乘以3，再加到第3行，可以将 $a_{31}$ 变为0

$(A,E) =\left( \begin{array}{ccc:ccc} 1 & 0 & 1 & 1 & 0 & 0\\ 0 & 1 & -2 & -2 & 1 & 0\\ 0 & 2 & 8 & 3 & 0 & 1\end{array} \right)$

第2行乘以-2，再加到第3行，可以将 $a_{32}$ 变为0

$(A,E) =\left( \begin{array}{ccc:ccc} 1 & 0 & 1 & 1 & 0 & 0\\ 0 & 1 & -2 & -2 & 1 & 0\\ 0 & 0 & 12 & 7 & -2 & 1\end{array} \right)$

第3行乘以- $\frac{1}{12}$ ，再加到第一行，可以将 $a_{13}$ 变为0

$(A,E) =\left( \begin{array}{ccc:ccc} 1 & 0 & 0 & \frac{5}{12} & \frac{1}{6} & -\frac{1}{12}\\ 0 & 1 & -2 & -2 & 1 & 0\\ 0 & 0 & 12 & 7 & -2 & 1\end{array} \right)$

第3行乘以 $\frac{1}{6}$ ，再加到第一行，可以将 $a_{23}$ 变为0

$(A,E) =\left( \begin{array}{ccc:ccc} 1 & 0 & 0 & \frac{5}{12} & \frac{1}{6} & -\frac{1}{12}\\ 0 & 1 & 0 & -\frac{5}{6} & \frac{2}{3} & \frac{1}{6}\\ 0 & 0 & 12 & 7 & -2 & 1\end{array} \right)$

最后，第3行乘以 $\frac{1}{12}$ ，左边就变成了单位矩阵E，右边则是我们需要的逆矩阵 $A^{-1}$

$(A,E) =\left( \begin{array}{ccc:ccc} 1 & 0 & 0 & \frac{5}{12} & \frac{1}{6} & -\frac{1}{12}\\ 0 & 1 & 0 & -\frac{5}{6} & \frac{2}{3} & \frac{1}{6}\\ 0 & 0 & 1 & \frac{7}{12} & -\frac{1}{6} & \frac{1}{12}\end{array} \right)$

即 $A^{-1} = \begin{pmatrix}\frac{5}{12} & \frac{1}{6} & -\frac{1}{12} \\ -\frac{5}{6} & \frac{2}{3} & \frac{1}{6} \\ \frac{7}{12} & -\frac{1}{6} & \frac{1}{12}\end{pmatrix}$