线性空间
线性空间的基本性质以及推论
如果一个向量集合对加法数乘封闭，并且满足以下八条性质，那么就可以被称为是一个线性空间。狭义地来看，这里的“向量”都是\(\mathbb{R}^n\)空间中的。而广义地来看，只要我们对“元素”定义出“加法与数乘”，并且满足以下八条性质，任意这样的集合都可以看作是线性空间。
- \(\vec{u}+\vec{v}=\vec{v}+\vec{u}\)
- \(\vec{u}+(\vec{v}+\vec{w})=(\vec{u }+\vec{v})+\vec{w}\)
- \(\forall \vec{v}\)，存在\(\vec{n}\)使得\(\vec{n}+\vec{v}=\vec{v}\)，这个向量记作\(\vec{0}\)
- \(\forall \vec{v}\)，存在的\(\vec{u}\)使得\(\vec{u}+\vec{v}=\vec{0}\)，这个向量记作\(-\vec{v}\)
- \(\forall \vec{v}\)，\((1)\vec{v}=\vec{v}\)
- \(c_1(c_2\vec{v})=(c_1c_2)\vec{v}\)
- \(c(\vec{u}+\vec{v})=c\vec{u}+c\vec{v}\)
- \((c_1+c_2)\vec{v}=c_1\vec{v}+c_2\vec{v}\)
任何一个\(\mathbb{R}^n\)都是一个线性空间。特殊地当\(n=0\)时，我们有\(Z=\{\vec{0}\}\)，这也是一个线性空间。一般地我们讨论“向量”空间，指的就是\(\mathbb{R}^n\)，它们是有限维的向量空间。而广义地，一个包含所有\(m \times n\)矩阵的“矩阵空间”也是一个线性空间；一个包含所有实数数列（正整数到实数的映射）的“数列空间”也是一个线性空间；将加法定义为实数乘法，将数乘\(c\)定义为实数的\(c\)次方的“实数空间”也是一个线性空间……
由这八条公理可以推导出线性空间的许多性质：
零向量是唯一的。如果不唯一，那么存在\(\vec{m},\vec{n}\)使得\(\vec{n} \neq\vec{m}\)，并且满足\(\vec{n}+\vec{m}=\vec{m}\)，\(\vec{m}+\vec{n}=\vec{n}\)。根据加法交换律，\(\vec{n}+\vec{m}=\vec{m}+\vec{n}\)，代入得\(\vec{m}=\vec{n}\)，矛盾。
加法逆是唯一的。如果不唯一，那么存在\(\vec{m},\vec{n}\)使得\(\vec{n} \neq\vec{m}\)，并且满足\(\vec{n}+\vec{v}=\vec{0}\)，\(\vec{m}+\vec{v}=\vec{0}\)。对于\(\vec{0}+\vec{m}=\vec{m}\)，将\(\vec{0}\)用\(\vec{n}+\vec{v}\)代换，得到\(\vec{n}+\vec{v}+\vec{m}=\vec{m}\)。根据加法结合律与交换律，将\(\vec{v}+\vec{m}\)用\(\vec{0}\)代换，得\(\vec{n}+\vec{0}=\vec{m}\)。而\(\vec{n}+\vec{0}=\vec{n}\)，所以得到\(\vec{m}=\vec{n}\)，矛盾。
等式满足消去律：如果有\(\vec{u}+\vec{v}=\vec{u}+\vec{w}\)，那么有\(\vec{v}=\vec{v}+\vec{0}=\vec{v}+(\vec{u}+(-\vec{u}))\)\(=(\vec{v}+\vec{u})+(-\vec{u})=(\vec{w}+\vec{u})+(-\vec{u})=\vec{w}\)。这是一个非常重要的定理，这告诉我们向量等式是可以移项的。
我们不再一一列出线性空间中向量的运算性质，只需要记住一般的代数运算对于向量而言都是成立的。对于这样的问题，我们把理解建立在实数运算上，特别注意它与实数的不同点就好了。
子空间
如果一个线性空间\(W\)中的元素全都包含在线性空间\(V\)中，就说\(W\)是\(V\)的子空间。注意子空间不是子集，它是“线性空间”，必须满足对加法和数乘封闭。例如三维空间中的一个平面是子空间，两个相交平面就不是子空间了。
由于数乘时\(c\)可以取0，为了使对于数乘封闭，每个子空间都必须包含0向量。
张成
对于线性空间\(V\)内部的任意一个集合\(S\)（不一定是子空间），所有元素的线性组合得到的全部向量组成的集合称为\(S\)的张成，记为\(\text{span}(S)\)。\(\text{span}(S)\)一定形成了一个子空间，其中的任意两个元素的线性组合一定也落在它内部。因此\(\text{span}(S)\)是\(V\)的一个子空间。同时，这一定是包含\(S\)的最小的子空间，因为对于任意的子空间\(W\)如果有\(S \subseteq W\)，那么\(W\)有\(S\)里的所有元素，所以\(W\)必须有所有这些元素的线性组合，自然就有\(\text{span}(S)\subseteq W\)。
线性独立
对于有限个向量\(v_1,\cdots,v_k\)，如果\(c_1v_1+\cdots+c_kv_k=0\)当且仅当\(c_i=0\)恒成立，就称这些向量线性独立。这等价于，其中的任何一个向量都不能被其他的\(k-1\)个向量线性组合表示。如果可以，那么移项就会得到一个系数不是全零却和为零的等式。
如果含有零向量，那么永远不可能线性独立。如果只有一个向量（非0），那么它永远线性独立。
基
如果有一组向量互相线性独立，又张成线性空间\(V\)，就称这组向量是\(V\)的一组基。
线性表示的唯一性
线性空间中的任何一个向量都能被基线性表示。这种表示必然是唯一的。如果不唯一，那么两式相减将会得到一个非全零系数组合出零向量的等式，这与线性独立的定义矛盾。
Steinitz Exchange Lemma
假设有限维线性空间\(V\)有一组基\(e_1,\cdots,e_n\)（这里\(e\)不特别表示单位向量）。我们从\(V\)中选出\(m\)个（\(0 \leq m \leq n\)）线性独立的向量\(v_1,\cdots,v_m\)，则一定可以把其中特定的某\(m\)个\(e_i\)替换成这\(m\)个\(v_i\)，使得\(v_1,\cdots,v_m,e_{i_1},\cdots,e_{i_{n-m}}\)构成\(V\)的一组基。
我们归纳地来证明 。
当\(m=1\)时，由于\(v_1\)可以被\(e_i\)线性表示且不为零向量，因此一定能找到一个\(k\)使得\(e_k\)能被剩下的\(n-1\)个\(e_i\)和\(v_1\)线性表示，这意味着替换后张成的空间相同；再验证线性独立性，讨论线性组合为0时\(v_1\)的系数是否为0，如果不为0，那么\(v_1\)可以被\(n-1\)个\(e_i\)线性表示，由于线性表示的唯一性，而\(v_1\)在用\(e_i\)表示时\(e_k\)的系数不为0，这就发生了矛盾。
假设已经替换好了\(k-1\)个。有当前的基表示\(v_k\)，由于\(v_i\)之间是线性独立的，因此一定存在一个\(e_p\)的系数不为0，同样的方法可以验证替换完下一个之后张成的空间相同，并且线性独立性依然成立。
维数
通过Steinitz Exchange Lemma中\(m<n\)的情况可以发现，少于\(n\)个线性独立的向量无法构成一组基（必须要有\(e_i\)补充）。同时，基的个数不可以超过\(n\)，因为如果超过\(n\)，那么取其中的\(n\)个就足以构成一组基。
这意味着，如果线性空间\(V\)存在不止一组基，那么所有基中向量的个数都是相同的。因此，基向量的个数是线性空间的一个属性，称为“维数”，记作\(\dim(V)\)。
并不是任何一个线性空间都是“有限维”的。我们只讨论有限维的线性空间。任何一个有限维的线性空间一定有基。假定我们有一个集合，刚开始是空的。如果当前集合内的向量还不足以张成整个线性空间，就从张成的空间以外再选一个向量。用类似Steinitz的方法可以验证集合内的向量一定是线性独立的。由于这个空间是“有限维”的，这样的操作一定会在某一时刻停下——等到集合内的向量个数到达“维数”时，这个集合就构成了一组基。
如果\(W\)是\(V\)的子空间，那么有\(\dim(W) \leq \dim(V)\)。由于\(W\)中所有向量都是\(V\)中的向量，我们还是依照上面的方法不断选\(W\)中的向量构造我们的基。当我们张成了\(W\)时，要么我们也张成了\(V\)，要么存在向量在\(V\)中但不在\(W\)中还没有被张成。前者说明\(\dim(W)=\dim(V)\)，后者说明如果要构造\(V\)的基我们还要继续添加向量，所以\(\dim(W) < \dim(V)\)。
极大线性无关组
给定有限个向量组成的集合，一定可以从中挑出若干个向量使得它们线性独立。使得挑出的个数最大的那个集合称为“极大线性无关组”。
如果集合内只有零向量，那么极大线性无关组为空集。否则，我们至少能挑出一个向量构成的线性无关组，因为一个向量一定线性独立。我们不断挑出没被包含在张成空间里的向量，最后停下来。我们要验证这是“极大”：我们集合内的向量线性独立，同时张成了“这些向量张成的空间”。因此它构成了“这些向量张成的空间”的一组基。如果存在比它更多的向量构成的“线性无关组”，就意味着这个线性空间有超过“维数”个线性独立的向量，这是不可能的。
