第三部分:向量空间与子空间、基与维数
本文件对应原 PDF 第 23-31 页。
本部分内容
- 3.1 向量空间与四个基本子空间
- 3.2 向量空间
的基与维数 - 3.3 列空间与行空间:通过消元求基
- 3.4
与 :零空间解与特解 - 3.5 四个基本子空间
- 3.6 图、关联矩阵与 Kirchhoff 定律
- 3.7 每个矩阵
都有伪逆
3.1 向量空间与四个基本子空间
向量空间的基本要求是:空间
向量空间的例子包括:
- 整个
; 的任意子空间; - 全体
实矩阵组成的空间 ; - 全体形如
的函数组成的空间。
以下集合不是向量空间:
- 半直线
,因为乘以负数后可能离开该集合; - 全体可逆矩阵,因为两个可逆矩阵的和不一定可逆;
- 全体奇异矩阵,因为两个奇异矩阵的和可能可逆。
- 整个
; - 经过原点
的平面; - 经过原点的直线;
- 只含零向量的零子空间。
对于一个
列空间
它也称为
的值域(range),是 的子空间。 行空间
它是
的子空间。 零空间
它也称为
的核(kernel),是 的子空间。 左零空间
它是
的子空间。
任意一组向量都能张成一个向量空间,这个空间包含它们的所有线性组合。
3.2 向量空间 的基与维数
向量空间
例如:
构成
另一组基可以是
这个平面有无穷多组基,但每组基总是包含两个向量。因此:
该矩阵的零空间是
它的一组基为
所以
注意
矩阵本身也可以组成向量空间:
- 全体
矩阵组成的空间维数为 ; - 全体
上三角矩阵组成的子空间维数为 。
为什么所有基含有相同数量的向量
设
即
如果
说明
3.3 列空间与行空间:通过消元求基
把矩阵化为简化行阶梯形(reduced row echelon form,RREF)时:
- 把每个主元化为
; - 消去主元下方的元素;
- 再消去主元上方的元素。
例如:
简化行阶梯形记为
它有
所以
再看一个矩形矩阵:
如果需要交换列,可用置换矩阵
其中
列空间的一组基
,由原矩阵 的前 个线性无关列构成;行空间的一组基可取
并有秩分解
例如:
因此
这个矩阵的行秩和列秩都为
3.4 与 :零空间解与特解
考虑
消元得到
第 1、3 列是主元列,第 2、4 列是自由列。令一个自由变量为
它们满足
矩阵
一般地,若
则零空间基矩阵为
因为
这里有
方程
即任意零空间解加上一个特解。
对增广矩阵做消元:
令自由变量为零,可取特解
如果再加入一个方程,消元后可能出现
若
消元要得到
3.5 四个基本子空间
设
| 子空间 | 所在空间 | 定义 | 维数 |
|---|---|---|---|
| 行空间 |
所有 |
||
| 零空间 |
|||
| 列空间 |
所有 |
||
| 左零空间 |
因此:
这也给出齐次方程
对含
个方程、 个未知数且秩为 的系统, 有 个线性无关的解方向。
因为
3.6 图、关联矩阵与 Kirchhoff 定律
考虑一个含 4 个节点、5 条边的有向图,其关联矩阵为
矩阵
- 节点变量
可表示电压; - 边变量
可表示电流。
边 1、2、3 形成图中的一个回路,所以对应的第 1、2、3 行线性相关。边 1、2、4 形成一棵树;树不含回路,因此这些行线性无关。
设一个连通图有
四个基本子空间具有以下图论解释:
零空间
常向量
构成
行空间
任意一棵生成树的边对应
列空间 :电压定律
左零空间 :电流定律
表示每个节点处的 Kirchhoff 电流定律。回路电流给出其解。图中独立小回路的数量为
在每个节点满足的电流定律
3.7 每个矩阵 都有伪逆
例如:
若
此时
当
当
若
次序发生反转,与普通可逆矩阵乘积的逆类似。
对任意
是
是
若
则
并且
在适合四个基本子空间的正交基下,两个投影矩阵具有分块形式:
对应“行空间
对应“列空间
伪逆可以通过奇异值分解计算。若
则
其中
秩一矩阵示例
设
伪逆把行空间和列空间的方向互换:
验证可得
它是到
它是到