03-向量空间与子空间


第三部分:向量空间与子空间、基与维数

本文件对应原 PDF 第 23-31 页。

本部分内容

  • 3.1 向量空间与四个基本子空间
  • 3.2 向量空间 的基与维数
  • 3.3 列空间与行空间:通过消元求基
  • 3.4 :零空间解与特解
  • 3.5 四个基本子空间
  • 3.6 图、关联矩阵与 Kirchhoff 定律
  • 3.7 每个矩阵 都有伪逆

3.1 向量空间与四个基本子空间

向量空间的基本要求是:空间 中向量的任何线性组合仍然属于

向量空间的例子包括:

  • 整个
  • 的任意子空间;
  • 全体 实矩阵组成的空间
  • 全体形如 的函数组成的空间。

以下集合不是向量空间:

  • 半直线 ,因为乘以负数后可能离开该集合;
  • 全体可逆矩阵,因为两个可逆矩阵的和不一定可逆;
  • 全体奇异矩阵,因为两个奇异矩阵的和可能可逆。

的子空间只有以下类型:

  • 整个
  • 经过原点 的平面;
  • 经过原点的直线;
  • 只含零向量的零子空间。

对于一个 矩阵 ,有四个基本子空间:

  1. 列空间

    它也称为 的值域(range),是 的子空间。

  2. 行空间

    它是 的子空间。

  3. 零空间

    它也称为 的核(kernel),是 的子空间。

  4. 左零空间

    它是 的子空间。

任意一组向量都能张成一个向量空间,这个空间包含它们的所有线性组合。

3.2 向量空间 的基与维数

向量空间 的一组,是能够张成 的一组线性无关向量。因此, 中每个向量都能唯一地表示成这些基向量的线性组合。

维数,是它任意一组基中所含向量的数量。同一空间的所有基都包含相同数量的向量。

例如:

的列空间是 中的 平面。它的前两列

构成 的一组基。

另一组基可以是

这个平面有无穷多组基,但每组基总是包含两个向量。因此:

该矩阵的零空间是 中的 轴:

它的一组基为

所以

注意 。这是秩-零度关系的一个例子。

矩阵本身也可以组成向量空间:

  • 全体 矩阵组成的空间维数为
  • 全体 上三角矩阵组成的子空间维数为

为什么所有基含有相同数量的向量

都是同一空间的基。因为 能张成整个空间,所以每个 都能表示成 的线性组合:

如果 ,则 必有非零解 。这将导致

说明 的列线性相关,与 是一组基矛盾。因此 。交换两组基的角色又可得 ,所以

3.3 列空间与行空间:通过消元求基

把矩阵化为简化行阶梯形(reduced row echelon form,RREF)时:

  1. 把每个主元化为
  2. 消去主元下方的元素;
  3. 再消去主元上方的元素。

例如:

简化行阶梯形记为

它有 个以主元 开始的非零行,以及 个零行。这里

所以 个线性无关列和 个线性无关行。

再看一个矩形矩阵:

如果需要交换列,可用置换矩阵 表示。一般形式为

其中 标出 个主元列:

  • 列空间的一组基 ,由原矩阵 的前 个线性无关列构成;

  • 行空间的一组基可取

  • 并有秩分解

例如:

因此

这个矩阵的行秩和列秩都为

3.4 :零空间解与特解

考虑

消元得到

第 1、3 列是主元列,第 2、4 列是自由列。令一个自由变量为 、另一个为 ,即可得到零空间的两个特殊解:

它们满足

矩阵 中的数 表明:原矩阵的相关列 2 和 4 可以由独立列 1 和 3 线性表示。消元把 化为 ,从而揭示出 个特殊解。

一般地,若

则零空间基矩阵为

因为 ,所以

这里有 个独立方程,并有 个独立的零空间方向。

方程 的完整解为

即任意零空间解加上一个特解。

对增广矩阵做消元:

令自由变量为零,可取特解

如果再加入一个方程,消元后可能出现

,最后一行要求 ,因此方程组无解。在原例中,这个相容条件可写成

消元要得到 ,方程组才相容。

3.5 四个基本子空间

矩阵,秩为 。线性代数基本定理第一部分给出:

子空间 所在空间 定义 维数
行空间 所有
零空间 的全部解
列空间 所有
左零空间 的全部解

因此:

这也给出齐次方程 的计数定理:

对含 个方程、 个未知数且秩为 的系统, 个线性无关的解方向。

因为 ,解方向至少有 个。若方程线性相关,则 ,解方向会更多。特别地,当 时, 一定存在非零解。

3.6 图、关联矩阵与 Kirchhoff 定律

考虑一个含 4 个节点、5 条边的有向图,其关联矩阵为

矩阵

  • 节点变量 可表示电压;
  • 边变量 可表示电流。

边 1、2、3 形成图中的一个回路,所以对应的第 1、2、3 行线性相关。边 1、2、4 形成一棵树;树不含回路,因此这些行线性无关。

设一个连通图有 个节点、 条边,其关联矩阵为 。则

四个基本子空间具有以下图论解释:

零空间

常向量

构成 的零空间,因为所有节点电压同时增加同一个常数不会改变边上的电压差。因此

行空间

任意一棵生成树的边对应 个线性无关行,所以

列空间 :电压定律

的各分量是边上的电压差。沿任意闭合回路,这些电压差之和为零。列空间的维数为

左零空间 :电流定律

表示每个节点处的 Kirchhoff 电流定律。回路电流给出其解。图中独立小回路的数量为

在每个节点满足的电流定律 ,是应用数学中的一个基本结构。

3.7 每个矩阵 都有伪逆

例如:

可逆,则必须有

此时

满列秩,即 时,存在左逆:

满行秩,即 时,存在右逆:

是秩分解,则

次序发生反转,与普通可逆矩阵乘积的逆类似。

把行空间映射到列空间,而 把列空间反向映射到行空间:

对任意

在列空间 上的正交投影;对任意

在行空间 上的正交投影。

并且

在适合四个基本子空间的正交基下,两个投影矩阵具有分块形式:

对应“行空间 零空间”,而

对应“列空间 左零空间”。

伪逆可以通过奇异值分解计算。若

其中 把所有非零奇异值 替换为 ,而零奇异值仍保持为零。

秩一矩阵示例

的秩为 。它的行空间是 中的一条直线,列空间是 中的一条直线。

伪逆把行空间和列空间的方向互换:

验证可得

它是到 的行空间的正交投影;而

它是到 的列空间的正交投影。


文章作者: Gustavo
版权声明: 本博客所有文章除特別声明外,均采用 CC BY-NC 4.0 许可协议。转载请注明来源 Gustavo !
评论
  目录