RE: 简单线性代数学习笔记 線形代数は基本的な問題である

线性代数学习笔记

---

0 前言与一些注意事项与定义

听说明天要讲拟阵,然后就搞一下线性代数.

大多数内容来自\(wfj\_2048\)的\(ppt\)

在这里先解释一下左乘和右乘是啥,\(A\)左乘\(B\)就是\(AB\),\(A\)右乘\(B\)就是\(BA\)

线性变换是乱七八糟凑.差不多这么理解即可.

\(\mathbb{R^n}\)表示\(n\)维\(R\)域的空间.\(dim\ X\)表示\(X\)空间的维数.

1 矩阵

1.0 矩阵的基本概念

首先需要了解基本的东西,矩阵.

定义一个矩阵\(A\)有\(m\)行\(n\)列,那么可以写成:

\[\begin{matrix} A_{1,1}\ A_{1,2}\cdots A_{1,n}\\ A_{2,1}\ A_{2,2}\cdots A_{2,n}\\ \ \ \ \ \ \ \ \vdots \\ A_{m,1}\ A_{m,2}\cdots A_{m,n}\\ \end{matrix} \]

我们还可以定义矩阵的数乘为\(\lambda A\),相当于是给矩阵中所有的元素都乘上一个数字.

然后矩阵有如下性质:

1. 结合率: \(ABC=A(BC)\)
2. 数乘结合律: \(\beta(\lambda A)=\beta\lambda A\)
3. ...(自行百度)

有一些特殊的矩阵,我们称之为\(I\),\(0\).

• \(I\),单位矩阵,就是对角线全是\(1\),其他位置都是\(0\)的矩阵.
• \(0\),零矩阵,就是所以位置都是\(0\)的矩阵.

1.1 矩阵的运算

加法就是对应位置加,减法就是对应位置减,乘法就是对应位置乘

矩阵的乘法,有如下定义:\(A\)矩阵为\((m,n)\),\(B\)矩阵为\((n,p)\).\(C=A*B\)

1. \(C(i,j)\)为\(A\)的第\(i\)个行向量内积\(B\)的第\(j\)个列向量.
2. \(C\)的第\(i\)行向量又等于\(A\)的第\(i\)行向量*\(B\)。
3. 所以\(C\)的第\(i\)列向量又等于\(A\)*(\(B\)的第\(i\)列向量)。
4. 最难理解的一条:\(C = \sum_{i=1}^n a_i\times b_i\)(\(a_i\)为\(A\)的第\(i\)列形成的矩阵,\(b_i\)为\(B\)的第\(i\)行形成的矩阵,式中\(\times\)为矩阵乘法)

第2,3条直接把矩阵乘法的定义式拆开就是了.

第4条的话,直接把矩阵乘法拆开然后交换一下\(\sum\)就行了.

反正都是暴力拆就对了

1.2 特殊的矩阵变化与矩阵

1.2.1 特殊矩阵

特殊矩阵有倍加矩阵,倍乘矩阵和对换矩阵.

倍加矩阵: P

\[\begin{bmatrix} 1& 0&0&\cdots &0\newline 0& 1& 0&\cdots &0\newline 0& c& 1&\cdots &0\newline &&\vdots\newline 0& 0& 0&\cdots &1\newline \end{bmatrix} \]

然后这个矩阵中第\((i,j)\)个数字为\(c\),主对角线上为\(1\),其他位置都是\(0\).

倍乘矩阵: C

\[\begin{bmatrix} 1& 0& 0\cdots&0\newline 0& c& 0\cdots&0\newline 0& 0& 1\cdots&0\newline &&\vdots\newline 0& 0& 0\cdots&1\newline \end{bmatrix} \]

然后这个矩阵中主对角线上,除一个位置为\(c\),其他位置为\(1\),不在主对角线上的数字都是\(0\).

对换矩阵: E

\[\begin{bmatrix} 1& 0& 0\cdots&0\newline 0& 0& 1\cdots&0\newline 0& 1& 0\cdots&0\newline &&\vdots\newline 0& 0& 0\cdots&1\newline \end{bmatrix} \]

这个矩阵相当于是交换\(I\)矩阵的两行.

1.2.2 特殊的矩阵变换

考虑上述的特殊矩阵有啥用,特殊矩阵左乘一个矩阵就是做初等行变换,右乘一个矩阵就是做初等列变换.

\(a_i+a_j*c\)就是倍加矩阵\(E(i,j)\)写一个\(c\).

倍乘矩阵\(C(i,i)\)为\(c\)表示把第\(i\)行乘\(c\).

对换矩阵就是交换.

1.3 逆矩阵

对于方阵而言,存在\(AB=I\),称\(B\)为\(A\)的逆矩阵,记做\(A^{-1}\),\(A^{-1}A=AA^{-1}=I\).

非方阵没有逆矩阵.

\((AB)^{-1}=B^{-1}A^{-1}\).

证明可以两边同时乘\(A,B\).

1. 若\(A\)可逆, 且\(A\vec x=\vec b\),则 \(\vec x=A^{-1} \vec b\)。故对任意\(\vec b\),方程总有唯一解。
2. 对于\(\vec b = \vec 0\),方程只有零解。
3. 若\(A\)可逆,则\(A\)总能通过初等行变换变为单位阵,可结合高斯约旦消元理解.
4. 矩阵可逆,当且仅当它消元以后有\(n\)个主元,满秩即可逆(满秩阵和可逆阵互为充要条件).

初等行变换不改变矩阵的可逆性,且若\(A,B\)可逆,\(AB\)可逆.

1.4 转置矩阵

矩阵\(A\)的转置为\(A^T\),定义为\(A^T(i,j)=A(j,i)\)

\((AB)^T=B^TA^T\),这个比较显然.

\(A^{-1^T}=A^{T^{-1}}\)

这个证明考虑将\(A=A,B=A^{-1}\)带入\((AB)^T=B^TA^T\),那么有

\[\begin{align} (AA^{-1})^T&=(A^{-1})^TA^T\\ I^T&=A^{-1^T}A^T\\ I&=A^{-1^T}A^T\\ A^{T^{-1}}&=A^{-1^T} \end{align} \]

简单证明即可.

1. \(\vec x\cdot \vec y=\vec x^T\vec y\)左边是内积,右边是矩阵乘法。重点注意这个形式,在线代的理解与证明中非常有用。

   定义:对于\(n\)阶方阵,若\(A=A^T\),则\(A\)为对称阵;若\(A=−A^T\),则\(A\)为反对称阵。

2. 任一方阵都能唯一地表示成一个对称阵与一个反对称阵之和.证明构造即可,类似高数上奇函数偶函数那个证明过程.

3. 反对称阵的对角元均为0.这个证明直接参照定义即可.

4. \(AA^T\)以及\(A^TA\)都是对称阵,这个也是根据定义证明.

2 向量空间

2.1 向量空间(线性空间)

若存在一个集合\(V\)与域\(P\),使得

1. \(V\)中有加法,对应唯一的和.
2. \(V\)中有数量乘,对应唯一的乘积.
3. 加法与数乘满足如下八条性质:

那么称\(V\)为\(P\)上的一个向量空间.

第3条即满足加有交换律,结合律,与乘有分配率,有0元,有负元(相反数),有单位元,数乘有结合律,分配率.

2.2 子空间

线性空间\(V\)的一个子集\(W\),满足\(W\)中存在零向量,W对加法和数乘封闭,则称\(W\)为\(V\)的子空间。显然子空间也是线性空间。

封闭的意思就是保证乘完后还在\(W\)内.

对于一个\(A(m\ by \ n)\),那么有:

1. 行空间:矩阵\(A\)的行张成的空间,记为\(C(A^T)\).通俗来说就是\(A\)的行向量线性变换组成的空间.
2. 列空间:矩阵\(A\)的列张成的空间,记为\(C(A)\).通俗来说就是\(A\)的列向量线性变换组成的空间.
3. (右)零空间:满足\(A\vec x=\vec 0\)的所有解张成的空间.
4. 左零空间:满足\(A^T\vec x=\vec 0\)的所有解张成的空间.
5. 行空间和零空间为\(\mathbb{R^m}\) 的子空间,列空间和左零空间为\(\mathbb{R^n}\)的子空间。
6. 若\(A\vec x=\vec b\)有解,则\(\vec b \in C(A)\);若\(A^T\vec x=\vec b\)有解,则\(b\in C(A^T )\).这个证明的话考虑解相当于是列空间的线性变换.

3 线性...

3.1 线性相关与线性无关

若\(k_1\vec v_1+k_2\vec v_2+...+k_n\vec v_n=\vec 0\)的解当且仅当\(\forall k_i=0\),那么这些向量线性无关,否则称它们线性相关.

若一组向量线性无关,且能表示出一个线性空间的所有向量,那么这组向量就称为这个线性空间的一组基。

1. 若一组向量中存在一个向量,其能被其他向量线性表出,则这组向量线性相关.这个可以通过定义证明.

2. 一个线性空间中任意一组基的向量个数相等.不妨令最小基向量个数为\(a\),那么考虑若增加一个向量\(\vec x\),这个向量一定能够被之前的向量线性表出,与线性无关矛盾.

3. 一个线性空间的维数为该空间任意一组基所含有的向量个数.感性理解即可.

3.2 线性基

就提两句话:

1. 线性基中一个数能有\(2^{n-k}\)中表示方法,其中\(n\)是个数,\(k\)是线性基中的个数.
2. 线性基是一个只有\(0,1\)元素的线性空间.

4 解方程

4.1 解\(A\vec x=\vec 0\)

4.1.0 定义

首先定义行阶梯形矩阵\(U\): \(\text{Upper Triangular Matrix}\).

1. 每个阶梯只有一行,即绝无可能一下子存在中间有零行.
2. 元素不全为零的行(非零行)的第一个非零元素所在列的下标随着行标的增大而严格增大(列标一定不小于行标).
3. 元素全为零的行(如果有的话)必在矩阵的最下面几行.

简化行阶梯形矩阵\(R = rref(A)\)

1. 非零行的第一个非零元素全是1.
2. 且非零行的第一个元素1所在列的其余元素全为零

来一个练手题,将下面的矩阵化成简化行阶梯形矩阵:

\[\begin{bmatrix} 1& 0& 2& 0& 4\newline 1& 1& 5& 0& 9\newline 3& 1 & 9& 1& 23\newline 1& 1 & 5& 1& 15\newline \end{bmatrix} \]

答案:

\[\begin{bmatrix} 1& 0& 2& 0& 4\newline 0& 1&3& 0& 5\newline 0& 0& 0& 1& 6\newline 0& 0& 0& 0& 0\newline \end{bmatrix} \]

4.1.1 正言

\(N(A)=N(U)=N(R)\),因为初等行变换不改变矩阵零元的情况.

解\(A\vec x=\vec 0\),先将\(A\)化为\(rref(A)\).

可以发现,所有非主元都能自由取值。那么我们的解向量显然由\(n\)-主元数个线性无关的向量组成。

故\(A \vec x=\vec 0\)的通解为这些向量的线性组合。所以\(dim\ N(A)=n-\)主元个数.同时可以发现,非主元所在的列是其前面的列的线性组合,故\(dim\ C(A) =\)主元个数.

故:\(dim\ N(A) +dim\ C(A) = n\)。

显然\(rref(A)\)的非零行数对应着\(C(A^T)\)的维数.可以发现其非零行数等于主元个数,故\(dim\ C(A^T)=dim\ C(A)\).

4.2 秩

称一个矩阵的主元个数为它的秩,记为\(r(A)\).

1. \(r(A) = dim\ C(A) = dim\ C(A^T) = r(A^T), r(A) \le min(m, n)\).
2. \(r(AB) \le min(r(A), r(B))\).
3. 矩阵左乘或右乘一个可逆阵不改变秩.
4. A为\(m\times n\)矩阵,B为\(n\times p\)矩阵,则\(r(AB) \ge r(A) + r(B) − n\).老邬都没有证,我怎么会证.
5. 满秩方阵可逆(之前提过).

考虑第2条性质的证明:

首先证明\(r(AB)\le r(B)\).

\[AB=\begin{bmatrix}Ab_1,Ab_2,...,Ab_p\end{bmatrix} \]

考虑这是\(B\)的列向量的空间组合,那么显然基的大小不会变大.

又因为\(r(A)=dim\ C(A)\),所以\(r(AB)\le r(B)\).

基本相同的道理可以证明\(r(AB) \le r(A)\),所以\(r(AB) \le \min(r(A),r(B))\).

4.3 解\(A\vec x=\vec b\)

解\(A\vec x=\vec b\),先将\(A\)化为\(U\),同时\(\vec b\)进行同样的初等行变换,然后判断是否有解.

判断有解就是类似判断一元一次方程的解一样.

然后再化为\(rref(A)\),此时令非主元都为\(0\),可以直接得到一个特解.

然后再求出\(A\vec x=\vec 0\)的通解。那么它的解可表示为特解+通解的线性组合.

1. \(r(A)=m\)的矩阵称为行满秩矩阵,该矩阵\(C(A) = \mathbb{R^m}\).易证.
2. \(r(A)=n\)的矩阵称为列满秩矩阵,该矩阵\(N(A) = {\vec 0}\).易证.

至此,线代基础告一段落,行列式为下一部分内容

抱歉它鸽了.