06列空间和零空间

复习

向量空间(Vector space)是满足一定运算规则的向量集合，这个运算规则是对加法和数乘封闭，即结果仍然属于原空间。子空间(subspace)是在某个空间中选取的部分向量组成的集合，在新集合中，仍然满足其是一个向量空间。

一、子空间的交并运算

我们以$R^3$空间为例子说明子空间的运算规律：

• 子空间之间的并集是否属于子空间
• 子空间之间的交集是否属于子空间

在这里我们判断是否不属于子空间的方法是：举例法。

子空间的交并运算的结果不为空（至少有零向量），结果也是一些向量集合，至于这些集合是否为子空间，得看具体情况。

举个简单的例子，$R^3$空间两个“平面”子空间的并集。

子空间的并集是两个平面所有向量的集合，如果我们取不与交线平行的向量（分属两个平面）进行线性组合，其结果必定是指向他们向量集合外的，因此我们认为子空间的并集不形成新的子空间。子空间的交集则是一条直线，直线上任意向量结果都是该直线，这个直线又是经过原点的直线，所以交集是子空间。经过简单的直观上的理解我们有以下结论[1]：

• 子空间的并集不一定是子空间
• 子空间的交集一定是子空间

二、矩阵的列空间

2.1 列空间比维数小的子空间

列向量维数决定其最大子空间。向量维数等于$k$，无论如何组合都不可能产生一个$>k$的空间，假如恰好等于$k$，也不一定是最大子空间，因为向量不是所有的都对“扩充子空间”产生有效作用。

假设我们有一个矩阵
$$A=\left[\begin{array}{ccc}1& 1& 2\\ 2& 1& 3\\ 3& 1& 4\\ 4& 1& 5\end{array}\right]$$

因为列向量是有四个元素，因此列空间所处坐标系应该是四维的，即其线性组合在一个$R^4$空间中。列空间不仅包含“扩展”他们的列向量，还包含所有的列向量线性组合。那么这三个列向量线性组合是否是“最大”的$R^4$，又或者是其子空间，如果是子空间，那么子空间的大小是多大？

四维空间对于我们来说有点抽象，如果我们把问题转换成三维空间，用两个三维向量是否能够扩展到整个笛卡尔空间？显然是不行的，因为两个三维向量无论如何组合，都会属于一个平面，还有非常多的空间没法覆盖，所以说，就从类比的角度来看，上述的$A$矩阵大概率是不能覆盖所有的$R^4$空间，只能是更小的$R^3$空间。

2.2 $Ax=b$的空间解释

设系数矩阵$$A=\left[\begin{array}{ccc}1& 1& 2\\ 2& 1& 3\\ 3& 1& 4\\ 4& 1& 5\end{array}\right]$$其组合系数和结果向量分别为$$x=\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]b=\left[\begin{array}{c}{b}_1\\ b_2\\ b_3\\ b_4\end{array}\right]$$

我们知道列空间是一个向量空间，是系数矩阵中列向量构成的空间。下面我们就从列空间的角度来解释$Ax=b$

• 对于不同的$b$，方程$Ax=b$是否始终有解？答案是：否。三个四维列向量组成的空间不能表示所有的四维向量，就如同三维空间两个三维向量只能表示一个平面一样。四维空间：“你至少要用和我维数一样多的四维向量才能表示我”。
• 什么样的$b$，方程$Ax=b$才能有解？答案：如果$b$恰好在列向量扩成的列空间内。
• 上述系数矩阵$A$能否去掉一列，仍然能够表示原来的列空间？答：去掉那些多余的列向量即可，什么叫做“多余的”，也就是向量去掉后，经过内部协作能够替代掉的向量，如本例中的第一列和第二列相加后能够完全替代第三列的向量。

三、零空间

3.1 $Ax=0$定义零空间

列向量可以形成列空间，对于结果向量为零向量的方程其解组成的空间是否是子空间呢？还是前面提到的方程为例，我们取：$$b=\left[\begin{array}{c}0\\ 0\\ 0\\ 0\end{array}\right]$$方程的解是一个三维的系数向量$x=\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]$，这些解组成的空间就是零空间，零空间是属于$R^3$的。
$$Ax=b\left[\begin{array}{ccc}1& 1& 2\\ 2& 1& 3\\ 3& 1& 4\\ 4& 1& 5\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]=\left[\begin{array}{c}0\\ 0\\ 0\\ 0\end{array}\right]$$

上述方程的系数可以是什么？

• 零向量：$x=\left[\begin{array}{c}0\\ 0\\ 0\end{array}\right]$
• 一个解。$x=\left[\begin{array}{c}1\\ 1\\ -1\end{array}\right]$
• 又一解。$x=\left[\begin{array}{c}2\\ 2\\ -2\end{array}\right]$
• 再一个解。$x=\left[\begin{array}{c}3\\ 3\\ -3\end{array}\right]$

慢着，似乎这个解是无穷多个的，幸好我们可以用一个式子来表述：

• 所有解通用表示。$x=c\left[\begin{array}{c}1\\ 1\\ -1\end{array}\right]c\in R$

从向量空间的角度来看，他就是一个过点$(1,1,-1)$直线，显然是一个子空间。零空间是子空间是一个巧合吗？

3.2 证明零空间是子空间

• 加法封闭；在零空间任取两个向量$v$和$w$，即方程的系数两组组合系数，有：$Av=0$ $Aw=0$，根据矩阵的加法运算，有$A(v+w)=0$成立，加法封闭成立。
• 数乘封闭。任取一个向量$v$，有$Av=0$，其数乘，$A(cv)=cA(v)=Av=0c\in R$，数乘也封闭。

3.3 非零空间是子空间吗?

不是的。我们取上述的$$b=\left[\begin{array}{c}1\\ 2\\ 3\\ 4\end{array}\right]$$方程变成：$$Ax=b\left[\begin{array}{ccc}1& 1& 2\\ 2& 1& 3\\ 3& 1& 4\\ 4& 1& 5\end{array}\right]\left[\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right]=\left[\begin{array}{c}1\\ 2\\ 3\\ 4\end{array}\right]$$那么他们的解是否构成子空间？显然不是的，因为前面我们已经知道子空间必须包含零向量，在本例中，零向量显然不能使的等式成立，故不是一个子空间。那么它是一个什么向量集合组成的？可以取：

• $x=\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right]$
• $x=\left[\begin{array}{c}0\\ -1\\ 1\end{array}\right]$
• $x=\left[\begin{array}{c}2\\ 1\\ -1\end{array}\right]$

虽然不太好找，事实上其通解为：
$$x=\left[\begin{array}{c}0\\ -1\\ 1\end{array}\right]+\lambda \left[\begin{array}{c}1\\ 1\\ -1\end{array}\right]\lambda \in R$$

空间中是一条不经过原点的直线。

四、小结

• 子空间的并集不一定仍是子空间，但是交集肯定是子空间；
• 列空间是矩阵列向量形成的空间，不一定能形成最大子空间；
• 零空间$Ax=0$的系数向量构成的空间，一定是一个子空间；
• 非零空间$Ax=b(b\ne 0)$所构成的空间，一定不是一个子空间；

[1] 严格的证明在这里就不深入理解了。