Strang MIT 18.06 线性代数精髓 03：消元的矩阵表示，矩阵的逆

本系列用彩色的 Latex 公式呈现总结 MIT Gilbert Strang 教授经典的线性代数课程18.06之精华，便于大家回顾复习。

本文在矩阵乘法和解方程组的基础上引入消元对应的矩阵乘法和矩阵的逆。

消元操作的矩阵表示

回顾上一节，解方程组的意义和过程 中，在消元步骤时，将矩阵 A 依行顺序向下，每一行通过减去上面行的若干倍，将矩阵 A 逐行规范成上三角矩阵形式。

那么每一行规范的操作，例如操作 \(E_{21}\) （第二行减去三倍第一行）是否可以通过矩阵乘法表示出来呢？

结合矩阵乘法的五种理解一节中行行切分，我们将 \(E_{21}\) 视为三个行相加。

如此，第一个矩阵 \([1 \quad 0 \quad 0]\) 乘以 \(A\) 形成了乘积矩阵的第一行，具体来说， \([1 \quad 0 \quad 0]\) 表示取 \(A\) 的1个第一行，0个第二行，0个第三行的和组成乘积矩阵第一行。 同样地，乘积矩阵第二行由第二个矩阵 \([-3 \quad 1 \quad 0]\) 形成，表示取 \(A\) 的-3个第一行，1个第二行，0个第三行之和。

具体转换如下

至此，操作 \(E_{21}\) 可以用矩阵 \(E_{21}\) 右乘以 \(A\) 来表示，即

上述矩阵乘法可以用简单地 Python 代码来核实

import numpy as np

A = np.array([
        [1., 2., 1.], 
        [3., 8., 1.],
        [0., 4., 1.]
])
e_21 = np.array([
    [1., 0., 0.], 
    [-3., 1., 0.],
    [0.,0.,1.]
])

e_21 @ A

运行结果为

array([[ 1.,  2.,  1.],
       [ 0.,  2., -2.],
       [ 0.,  4.,  1.]])

将 \(A\) 矩阵消元的第二个操作是 \(E_{32}\)，第三行减去2倍第二行，这个操作依样画葫芦可以写成

将 \(E_{32}\) 右乘以上面的中间结果可以得到最后的上三角矩阵形式，完成消元步骤。

即 \(A\) 在两次左乘相应矩阵后变成上三角矩阵 \(U\)

由于乘法结合律，可以将两次操作 \(E_{32}, E_{21}\) 视为统一的操作 \(E\)

注意上式中， \(E_{32},E_{21}\) 为下三角矩阵。

我们再用代码来验证下矩阵乘法结合律

import numpy as np

e_32 = np.array([
    [1., 0., 0.], 
    [0., 1., 0.],
    [0., -2., 1.]
])

e_21 = np.array([
    [1., 0., 0.], 
    [-3., 1., 0.],
    [0.,0.,1.]
])

A = np.array([
        [1., 2., 1.], 
        [3., 8., 1.],
        [0., 4., 1.]
])

e_32 @ e_21 @ A
e_32 @ (e_21 @ A)

结果都为

array([[ 1.,  2.,  1.],
       [ 0.,  2., -2.],
       [ 0.,  0.,  5.]])

因此，矩阵 \(A\) 的消元过程可以用一个矩阵 \(E\) 表示出来。

矩阵的逆

以基本行操作 \(E_{21}^{-1}\) 为例，此变换是从第二行中减去三倍的第一行

那么其逆变换就是给第二行加上三倍的第一行，所以逆矩阵就是

\(E_{32}^{-1}\) 也是同样

我们已经知道这两个行变换的综合效果为 \(E\)

那么 \(E^{-1}\) 和 \(E_{32}^{-1},E_{21}^{-1}\) 有什么关系呢？

发现综合结果的逆以相反的顺序相乘，这个也容易理解，因为逆操作将一个上三角矩阵 \(U\) 恢复成 \(A\)，这个过程是自下而上的行变换。

最后，来核实 \(E E^{-1} = I\)。