1、线性代数一

3Blue1Brown - Bilibili

1、序言

2、向量究竟是什么

向量是空间中的箭头
向量是有序的数字列表
 
可以把每个向量看做一种特定的运动，即在空间中朝着某个方向迈出一定的距离
 
实际上自始至终，数字（标量）在线性代数中起到的主要作用就是缩放向量

向量加法和向量数乘贯穿线性代数始终，二者起着很重要的作用

3、线性组合、张成的空间与基

3.1、基

每当我们用数字描述向量时，它都依赖于我们正在使用的基
基的严格定义：向量空间的一组基，是张成该空间的一个线性无关向量的集合

3.2、线性组合

"缩放向量并且相加" 这一概念至关重要

3.3、张成的空间

两个向量张成的空间，实际上是问，仅通过向量加法与向量数乘这两种基础运算，你能获得的所有可能向量的集合是什么

当你缩放第三个向量时，它将前两个向量张成的平面沿它的方向来回移动，从而扫过整个空间
另一种思考方式是，你完全利用了你掌握的自由变化的三个标量，从而得到空间中所有的三维向量

3.4、线性相关

至于第三个向量已经落在前两个向量张成的空间当中，或者两个向量恰好共线的情况，我们需要一些术语来描述它们

一组向量中至少有一个是多余的，没有对张成空间做出任何贡献
你有多个向量，并且可以移除其中一个而不减小张成的空间，当这种情况发生时，我们称它们是 "线性相关" 的

另一种表述方法是：其中一个向量，可以表示为其它向量的线性组合，因为这个向量已经落在其它向量张成的空间之中

3.5、线性无关

如果所有向量都给张成的空间增添了新的维度，它们就被称为是 "线性无关" 的

4、矩阵与线性变换

总之，线性变换是操纵空间的一种手段，网格线保持平行且等距分布，并且原点保持不动
令人高兴的是，这种变换只需要几个数字就能描述清楚，这些数字就是变换后基向量的坐标，以这些坐标为列所构成的矩阵为我们提供了一种描述线性变换的语言
而矩阵向量乘法就是计算线性变换作用于给定向量的一种途径
 
这里重要的一点是，每当你看到一个矩阵时，你都可以把它解读为对空间的一种特定变换
一旦真正消化了这些内容，你就在深刻理解线性代数上占据了极佳的位置
当你将矩阵看作空间的变换之后，此后几乎所有主题，从矩阵乘法，到行列式、基变换、特征值等都会更加容易理解

4.1、线性变换

"变换" 本质上是 "函数" 的一种花哨的说法，它接收输入内容，并输出对应结果
特别地，在线性代数的情况下，我们考虑的是接收一个向量并且输出一个向量的变换
既然 "变换" 和 "函数" 意义相同，为什么还要使用前者而不是后者？
因为使用 "变换" 是在暗示以特定方式来可视化这一输入-输出关系
 
一种理解 "向量的函数" 的方法是使用运动，如果一个变换接收一个向量并输出一个向量，我们想象这个输入向量移动到输出向量的位置
接下来，要理解整个变换，我们可以想象每一个输入向量都移动到对应输出向量的位置

直观地说，如果一个变换具有以下两条性质，我们就称它是线性的
1、直线在变换后仍然保持为直线，不能有所弯曲
2、原点必须保持固定
总的来说，你应该把线性变换看作是 "网格线保持平行且等距分布" 的变换

部分线性变换很容易思考，比如关于原点的旋转，其他的稍显复杂，难以言表
你觉得应该如何用数值去描述这些线性变换呢？
实际结果是，你只需要记录两个基向量 i 帽和 j 帽变换后的位置，其他向量都会随之而动
只要记录了变换后的 i 帽和 j 帽，我们就可以推断出任意向量在变换之后的位置，完全不必观察变换本身是什么样

网格线保持平行且等距分布的性质有个重要的推论：向量 V 是 i 帽和 j 帽的一个特定线性组合，那么变换后的向量 V 也是变换后 i 帽和 j 帽的同样的线性组合
这意味着，你可以只根据变换后的 i 帽和 j 帽，就推断出变换后的 V

4.2、矩阵

以上这些内容是在说，一个二维线性变换仅由四个数字完全确定：变换后 i 帽的两个坐标与变换后 j 帽的两个坐标
通常我们将这些坐标包装在一个 2 × 2 的格子中，称它为 2 × 2 矩阵
记住，矩阵在这里只是一个记号，它含有描述一个线性变换的信息

4.3、旋转矩阵

我们将整个空间逆时针旋转 90 度，那么 i 帽落在坐标 (0, 1) 上，j 帽落在坐标 (-1, 0) 上，那么这个矩阵的列就分别是 (0, 1)和 (-1, 0)
如果想算出任意向量在逆时针旋转 90 度后的位置，你只需要把它与矩阵相乘即可

4.4、剪切

i 帽保持不变，但是 j 帽移动到了坐标 (1, 1)

5、矩阵乘法与线性变换复合

5.1、线性变换复合

很多时候你发现你想描述这样一种作用：一个变换之后再进行另一个变换
从头到尾的总体作用是另一个线性变换，这个新的线性变换通常被称为前两个独立变换的 "复合变换"

5.2、矩阵乘法

时刻记得，两个矩阵相乘有着几何意义，也就是两个线性变换相继作用
M1 * M2 != M2 * M1
M1 * (M2 * M3) = (M1 * M2) * M3

6、三维空间中的线性变换

x y z 对应 i j k 帽

7、行列式

这个特殊的缩放比例，即线性变换改变面积的比例，被称为这个变换的行列式（计算的目的不在于数字本身，而在于洞察其背后的意义）

完整概念下的行列式是允许出现负值的，那将一个区域缩放负数倍到底是什么意思？这和定向的概念有关
一种方式是根据 i 帽和 j 帽来考虑，注意在初始状态时，j 帽在 i 帽的左边，如果在变换之后，j 帽处于 i 帽的右边，那么空间定向就发生了改变
当空间定向改变的情况发生时，行列式为负，但是行列式的绝对值依然表示区域面积的缩放处比例

行列式的计算
det(M1 * M2) = det(M1) * det(M2)

8、逆矩阵、列空间、秩、零空间

以上就是从几何角度理解线性方程组的一个高水平概述，每个方程组都有一个线性变换与之联系，当逆变换存在时，你就能用这个逆变换求解方程组
否则，列空间的概念让我们清楚什么时候存在解
零空间的概念有助于我们理解所有可能的解的集合是什么样的
这里有不少我没有涉及到的内容，尤其是如何进行计算，我还得把范围限制在方程数目与未知量数目相等的情况内
但是我的目标并不是尝试教所有内容，而是让你留下对逆矩阵、列空间和零空间的深刻直观印象，并且让这些直观让你未来学习的收获更加丰硕

8.1、线性方程组

只要变换 A 不将空间压缩到一个更低的维度上，也就是 det(A) != 0
那它就存在逆变换 A 逆，使得应用 A 变换再应用 A 逆变换之后，结果与恒等变换无异

8.2、逆矩阵

A 逆 * A = 什么都不做的矩阵
这个 "什么都不做" 的变换称为 "恒等变换"，即 i 帽为 (1, 0)，j 帽为 (0, 1)

8.3、秩

当变换的结果为一条直线时，也就是说结果是一维的，我们称这个变换的秩为 1
如果变换后的向量落在某个二维平面上，我们称这个变换的秩为 2
所以说 "秩" 代表着变换后空间的维数

比如说对于 2 × 2 的矩阵，它的秩最大为 2，意味着基向量仍旧能张成整个二维空间，并且矩阵的行列式不为零
但是对于 3 × 3 的矩阵，秩为 2 意味着空间被压缩了，但是和秩为 1 的情况相比，压缩并不是那么严重
如果一个三维变换的行列式不为零，变换结果仍旧充满整个三维空间，那么它的秩为 3

8.4、列集合

不管是一条直线、一个平面还是三维空间等，所有可能的变换结果的集合，被称为矩阵的 "列空间"
你大概也能猜到这个名字从哪来了，矩阵的列告诉你基向量变换后的位置，这些变换后的基向量张成的空间就是所有可能的变换结果
换句话说，列空间就是矩阵的列所张成的空间，所以更精确的秩的定义是列空间的维数

当秩达到最大值时，意味着秩与列数相等，我们称之为 "满秩"
注意，零向量一定会被包含在列空间中，因为线性变换必须保持原点位置不变
对一个满秩变换来说，唯一能在变换后落在原点的就是零向量自身

8.5、零空间

但是对一个非满秩的矩阵来说，它将空间压缩到一个更低的维度上，也就是说会有一系列向量在变换后成为零向量
举个例子，如果一个三维线性变换将空间压缩到一条直线上，那么沿某个不同方向直线上的所有向量就被压缩到原点
如果一个三维线性变换将空间压缩到一个平面上，同样也会有一整条线上的向量在变换后落在原点
如果一个三维线性变换将空间压缩到一条直线上，那么就有一整个平面上的向量在变换后落在原点

变换后落在原点的向量的集合，被称为矩阵的 "零空间" 或 "核"
变换后一些向量落在零向量上，而 "零空间" 正是这些向量所构成的空间

对线性方程组来说，当向量 V 恰好为零向量时，零空间给出的就是这个向量方程所有可能的解