线性代数（笔记七） MIT公开课（来源网易云课堂）
线性代数（笔记七）
课程来源：网易云课堂学习计划（课程链接）
作者简述：作者为一名正在读研的学生，自己的数学状态较差。本科期间所学均能算跟得上，而且通过自己的努力经过了研究生考试。但是对数学的理解并不透彻，只是根据课上所学去做题而已。如今科研中，许多过程均需要用到所学的数学知识，然而一个好的理解和一个扎实的基础才是科研之本。数学虽然是作为一种工具，如果不了解含义，无论是是使用上还是在其基础之上进行修改均显得支支吾吾。于是决定重新学习线性代数相关知识，并做此笔记以供复习或和他人分享。
用途：此系列文章均是作者在课上所学及其自己相关的数学思想所做的笔记，如有理解错误之处还望大家指出。本系列文章均可不咨询情况下任意转载和学习（不可商用）。
作者研究方向为机器学习，如果有相同方向的小伙伴想一起学习，请加QQ123854340（备注来源博客），如果人数较多还可能建群。同时发现文章中有错误之处也请发邮件到123854340@qq.com。
在上节课中，我们介绍了向量空间、列空间、零空间。并列举了一些子空间。这节课，我们将进行对方程组（AX = 0）进行求解。
一、AX = 0的求解
对于AX = 0的求解过程，我们通过例子一一展示。下面设A矩阵为：
接下来我们对A矩阵进行消元：
在上图中第三个矩阵，我们可以称之为U（echelon form 阶梯式）。此时，根据课中教授定义。矩阵的rank（我们称之为秩）为消元中主元的个数（用r表示）。相对于非主元我们称之为free variables（自由变元）的个数为n-r（n为变量的个数）。
自由变元的取值可以为随意值，当我们为其设定后，我们便可以求出对应的特解。例如为了计算方便我们将分别设为（1，0）和（0，1）。那么就可以求出如下两个特解。
那么问题就是，求出两个特解后并不能代表AX = 0的所有的解的空间。那么AX = 0的解是什么呢？ 不难想到的是，其解空间应该可以用两个特解的所有线性组合去表示。
二、行最简形式
上边我们已经求得AX = 0的所有的解，然而我们还可以对U做如下变换。
我们将上图中的第三个矩阵设为R（行最简形式的矩阵）。在R中我们可以看到主元都为1且其上下都为0，这便是行最简形式的特征。那么，到现在我们会发现，我们已经把最初的AX = 0通过消元化简为RX = 0。即：
此时，我们进行如下表示的设定：
那么矩阵R可以表示为：
在图中的I、F的列有可能是相间交错的，就像我们上面求出的矩阵一样：
则N（零空间，AX = 0的解空间）为（这里的F和I也可能是交错的，且解的交错顺序和R矩阵中交错的顺序一致）：
由上叙可知，如果我们对一个方程组的系数矩阵A进行消元化简，最后得到其行最简形式R，那么我们可以直接求出其解空间。显然这在我们日常计算中是十分方便的。那么为什么N就是其解呢？原因如下（RX = 0可以表示如下）：
从图中，我们可以看到pivotx = –F freex。当我们将自由变元设置为单位矩阵时，那么主元对应为-F，则解就可以迎刃而解。
