[非常详细]数理考试复习资料-高等数学、线性代数、概率论与数理统计、信号与系统、数字信号处理

数理考试复习资料

高等数学

1.函数及其性质

函数的定义和表示方法:解析式、图像、表格等。
函数的图像特征:奇偶性、周期性、有界性。
单调性:理解增函数、减函数的概念,并能够判断函数的单调区间。
典型函数:一次函数、二次函数、指数函数、对数函数、三角函数、反三角函数等。

一、函数的定义和表示方法

函数是将一个集合的元素映射到另一个集合的元素的对应关系,在数学、物理、经济学等学科中广泛应用。

1. 函数的定义

  • 定义:设 \(X\)\(Y\) 是两个集合,如果对于集合 \(X\) 中的每一个元素 \(x\),在 \(Y\) 中都存在唯一的元素 \(y\) 与之对应,记作 \(y = f(x)\),则称 \(f\) 是从 \(X\)\(Y\) 的一个函数。
  • 符号:函数通常记作 \(f: X \to Y\)

2. 函数的表示方法

  • 解析式:用代数表达式定义函数,如 \(f(x) = x^2 + 2x + 1\)
  • 图像:在坐标*面上绘制函数的图像,以可视化函数的变化趋势。
  • 表格:列出函数的输入值 \(x\) 与输出值 \(f(x)\) 的对应关系,适用于离散点。

例题

例 1:设函数 \(f(x) = x^2 - 4x + 3\),求 \(f(x)\) 的值,并用表格表示当 \(x = -1, 0, 1, 2, 3, 4\) 时的 \(f(x)\) 值。

解答

  • 计算各点值:

\[ \begin{array}{c|c} x & f(x) \\ \hline -1 & 8 \\ 0 & 3 \\ 1 & 0 \\ 2 & -1 \\ 3 & 0 \\ 4 & 3 \\ \end{array} \]

应用背景:函数的不同表示方法在科学与工程中有广泛应用,如经济学中使用表格表示需求和价格的关系,图像用于展示函数随变量变化的趋势。

二、函数的图像特征

函数的图像特征包括奇偶性、周期性和有界性,这些特性描述了函数在定义域上的对称性、重复性和范围。

1. 奇偶性

  • 定义:如果对于任意 \(x\),都有 \(f(-x) = f(x)\),则 \(f(x)\) 为偶函数,图像关于 \(y\) 轴对称;如果 \(f(-x) = -f(x)\),则 \(f(x)\) 为奇函数,图像关于原点对称。

2. 周期性

  • 定义:如果存在一个非零常数 \(T\),使得对于定义域内所有 \(x\) 都有 \(f(x + T) = f(x)\),则称 \(f(x)\) 为周期函数,\(T\) 为周期。

3. 有界性

  • 定义:若存在一个常数 \(M\) 使得对于所有 \(x\)\(|f(x)| \leq M\),则称 \(f(x)\) 是有界函数。

例题

例 2:判断函数 \(f(x) = \sin(x)\) 的奇偶性、周期性和有界性。

解答

  • 奇偶性\(f(-x) = \sin(-x) = -\sin(x)\),因此 \(f(x) = \sin(x)\) 为奇函数。
  • 周期性\(\sin(x)\) 满足 \(\sin(x + 2\pi) = \sin(x)\),因此其周期为 \(2\pi\)
  • 有界性:对于所有 \(x\)\(|\sin(x)| \leq 1\),因此 \(\sin(x)\) 是有界函数。

应用背景:奇偶性在信号处理中的对称性分析中广泛应用,周期性用于描述自然现象的循环规律,如季节变化和心跳。

三、单调性

单调性描述了函数的递增或递减特性,是研究函数变化趋势和解方程的基本工具。

1. 增函数与减函数

  • 定义:若对于任意 \(x_1 < x_2\),都有 \(f(x_1) \leq f(x_2)\),则 \(f(x)\) 在该区间上为增函数;若 \(f(x_1) \geq f(x_2)\),则 \(f(x)\) 在该区间上为减函数。

2. 判断单调区间

  • 方法:可以通过求导数 \(f'(x)\) 来判断单调性:若 \(f'(x) > 0\)\(f(x)\) 递增,若 \(f'(x) < 0\)\(f(x)\) 递减。

例题

例 3:判断函数 \(f(x) = x^2 - 4x + 3\) 的单调区间。

解答

  • 求导数:\(f'(x) = 2x - 4\)
  • 解方程 \(f'(x) = 0\)\(x = 2\),将区间分为 \((-\infty, 2)\)\((2, +\infty)\)
  • \((-\infty, 2)\) 上,\(f'(x) < 0\),故 \(f(x)\) 递减;在 \((2, +\infty)\) 上,\(f'(x) > 0\),故 \(f(x)\) 递增。

应用背景:单调性在求解优化问题中至关重要,可用于确定函数的极值点,广泛应用于经济学中的成本最小化和收益最大化分析。

四、典型函数

典型函数包括一次函数、二次函数、指数函数、对数函数、三角函数和反三角函数等,它们是研究更复杂函数的基础。

1. 一次函数

  • 定义:形式为 \(f(x) = ax + b\) 的函数称为一次函数,图像为直线。

2. 二次函数

  • 定义:形式为 \(f(x) = ax^2 + bx + c\) 的函数称为二次函数,图像为抛物线。

3. 指数函数

  • 定义:形式为 \(f(x) = a^x\)\(a > 0\)\(a \neq 1\) 的函数称为指数函数,图像呈指数增长或衰减。

4. 对数函数

  • 定义:形式为 \(f(x) = \log_a(x)\)\(a > 0\)\(a \neq 1\) 的函数称为对数函数,是指数函数的反函数。

5. 三角函数

  • 定义:包括 \(\sin(x)\)\(\cos(x)\)\(\tan(x)\) 等,周期性强,广泛应用于波动和振动问题。

6. 反三角函数

  • 定义:三角函数的反函数,如 \(\arcsin(x)\)\(\arccos(x)\),用于角度计算。

例题

例 4:求解方程 \(2^x = 8\),并讨论 \(f(x) = 2^x\) 的单调性。

解答

  • 求解方程:将 \(8\) 表示为 \(2\) 的幂,得 \(2^x = 2^3\),解得 \(x = 3\)
  • 单调性:由于 \(f(x) = 2^x\) 的导数 \(f'(x) = 2^x \ln 2 > 0\),所以 \(f(x)\) 在整个定义域上递增。

应用背景:指数和对数函数在金融中的复利计算、计算机科学中的复杂度分析,及物理学中的放射性衰变中具有广泛应用。


2.复合与反函数

复合函数的定义和构造方法。
反函数的求法:单调性是反函数存在的必要条件。
常见函数的反函数,如指数与对数、三角与反三角函数。

一、复合函数的定义和构造方法

复合函数是将一个函数的输出作为另一个函数的输入而构造的新函数,在许多应用中用于描述多步骤的变换过程。

1. 复合函数的定义

  • 定义:设有两个函数 \(f: A \to B\)\(g: B \to C\),则定义复合函数 \(h = g \circ f\)\(h: A \to C\),其定义为

    \[h(x) = g(f(x)) \]

    其中 \(x \in A\)\(f(x) \in B\)\(g(f(x)) \in C\)

2. 复合函数的构造方法

  • 复合函数的构造方法是将一个函数代入另一个函数。例如,若 \(f(x) = x^2\)\(g(x) = e^x\),则复合函数 \(h(x) = g(f(x)) = e^{x^2}\)

例题

例 1:已知 \(f(x) = x + 1\)\(g(x) = x^2\),构造复合函数 \(h(x) = g(f(x))\)

解答

  • 复合函数 \(h(x) = g(f(x)) = (x + 1)^2 = x^2 + 2x + 1\)

应用背景:复合函数在物理学中用于描述多步变换过程,在计算机科学中用于构建复杂操作的嵌套函数。

二、反函数的求法

反函数是将原函数的输入和输出互换的函数,用于逆向求解和解方程。反函数的存在性取决于原函数的单调性。

1. 反函数的定义

  • 定义:设 \(f: A \to B\),若存在函数 \(g: B \to A\),使得对于 \(A\) 中的任意元素 \(x\),有 \(g(f(x)) = x\),且对于 \(B\) 中的任意元素 \(y\),有 \(f(g(y)) = y\),则称 \(g\)\(f\) 的反函数,记作 \(f^{-1}\)

2. 单调性是反函数存在的必要条件

  • 若函数 \(f\) 在定义域上严格单调(即严格递增或严格递减),则 \(f\) 存在反函数。单调性保证了每个值对应唯一一个原值,从而确保反函数的存在。

3. 求反函数的步骤

  • 步骤
    1. \(y = f(x)\)
    2. 解出 \(x\) 表示为 \(y\) 的函数形式;
    3. \(x\) 换成 \(y\),得到反函数 \(f^{-1}(y)\)

例题

例 2:求函数 \(f(x) = 3x + 2\) 的反函数。

解答

  • \(y = 3x + 2\),解得 \(x = \frac{y - 2}{3}\)
  • 因此,反函数为 \(f^{-1}(y) = \frac{y - 2}{3}\)

应用背景:反函数在求解方程、控制论和密码学中有广泛应用,用于逆向推导和解密等问题。

三、常见函数的反函数

常见的反函数包括指数函数与对数函数、三角函数与反三角函数,它们是数学和物理学中的基础工具。

1. 指数函数与对数函数

  • 定义:对于 \(a > 0\)\(a \neq 1\) 的指数函数 \(f(x) = a^x\),其反函数为对数函数 \(f^{-1}(x) = \log_a(x)\)
    • 指数函数 \(y = a^x\) 表示一个不断增长的过程;
    • 对数函数 \(y = \log_a(x)\) 则描述增长的速率或倍数。

例题

例 3:求解方程 \(2^x = 8\) 并解释其反函数的意义。

解答

  • \(8\) 写成 \(2\) 的幂,得到 \(2^x = 2^3\),所以 \(x = 3\)
  • 对于反函数 \(f^{-1}(x) = \log_2(x)\),它表示找到使得 \(2^x = y\) 的指数 \(x\),即对数表示的是指数的逆过程。

应用背景:指数和对数函数在金融学中的复利计算、信息学中的信息熵计算、物理学中的衰减和增长现象中广泛应用。

2. 三角函数与反三角函数

  • 定义:三角函数 \(\sin(x)\)\(\cos(x)\)\(\tan(x)\) 的反函数分别为 \(\arcsin(x)\)\(\arccos(x)\)\(\arctan(x)\)
    • 三角函数用于描述角度与直角三角形边长的关系;
    • 反三角函数用于根据比例求角度。

例题

例 4:求解 \(\sin(x) = \frac{1}{2}\) 的解,并解释 \(\arcsin(x)\) 的几何意义。

解答

  • 解得 \(x = \arcsin\left(\frac{1}{2}\right) = \frac{\pi}{6}\)\(x = \pi - \frac{\pi}{6} = \frac{5\pi}{6}\)
  • 反函数 \(\arcsin(x)\) 的几何意义是给出一个特定正弦值对应的角度,通常取在 \([-\frac{\pi}{2}, \frac{\pi}{2}]\) 范围内。

应用背景:三角和反三角函数在物理学的波动现象、工程中的振动分析、天文学中的角度测量和计算中有重要应用。


3.初等函数与数列极限

初等函数的分类与性质:幂函数、指数函数、对数函数等。
数列极限:数列极限的定义与收敛性判断,利用极限运算法则求极限。

一、初等函数的分类与性质

初等函数包括幂函数、指数函数、对数函数等,它们是研究函数与建立模型的基础。

1. 幂函数

  • 定义:幂函数的形式为 \(f(x) = x^a\),其中 \(a\) 为常数。
  • 性质
    • \(a > 0\) 时,\(f(x)\) 在正数区间上递增;当 \(a < 0\) 时,\(f(x)\) 在正数区间上递减。
    • 幂函数在原点附*及无穷处的趋势由指数 \(a\) 决定,例如 \(y = x^2\) 为抛物线,而 \(y = x^{-1}\) 为双曲线。
    • 常见的幂函数有*方函数 \(y = x^2\)、立方函数 \(y = x^3\) 等。

例题

例 1:判断幂函数 \(f(x) = x^{-2}\) 的单调性和奇偶性。

解答

  • 单调性:当 \(x > 0\) 时,\(f(x) = x^{-2} = \frac{1}{x^2}\) 随着 \(x\) 增大而减小,因此在 \(x > 0\) 上单调递减。
  • 奇偶性\(f(-x) = (-x)^{-2} = x^{-2} = f(x)\),所以 \(f(x)\) 是偶函数。

应用背景:幂函数在物理学中用于描述不同能量关系(如*方律)、在经济学中用于边际效益等应用。

2. 指数函数

  • 定义:指数函数的形式为 \(f(x) = a^x\),其中 \(a > 0\)\(a \neq 1\)
  • 性质
    • \(a > 1\) 时,\(f(x)\) 在定义域上递增;当 \(0 < a < 1\) 时,\(f(x)\) 在定义域上递减。
    • 指数函数的图像在 \(y\) 轴左侧趋*于 \(0\),且在 \(x \to +\infty\) 时趋*于无穷。
    • 指数函数在定义域上为无界函数,但在任何有限区间上为有界函数。

例题

例 2:求极限 \(\lim_{x \to +\infty} \left(1 + \frac{1}{x}\right)^x\)

解答

  • 利用公式 \(\lim_{x \to +\infty} \left(1 + \frac{1}{x}\right)^x = e\),所以

    \[\lim_{x \to +\infty} \left(1 + \frac{1}{x}\right)^x = e \]

应用背景:指数函数在复利、人口增长和放射性衰减等自然现象中广泛应用。

3. 对数函数

  • 定义:对数函数的形式为 \(f(x) = \log_a(x)\),其中 \(a > 0\)\(a \neq 1\),是指数函数的反函数。
  • 性质
    • \(a > 1\) 时,\(f(x)\) 在定义域 \((0, +\infty)\) 上递增;当 \(0 < a < 1\) 时,\(f(x)\) 在定义域上递减。
    • 对数函数的图像经过点 \((1,0)\),在 \(x \to 0^+\) 时趋向负无穷,在 \(x \to +\infty\) 时趋向正无穷。
    • 对数函数常见形式包括自然对数 \(\ln(x)\) 和常用对数 \(\log_{10}(x)\)

例题

例 3:计算 \(\lim_{x \to 0^+} \log(x)\)

解答

  • 因为 \(\log(x)\)\(x \to 0^+\) 时趋向负无穷,所以

    \[\lim_{x \to 0^+} \log(x) = -\infty \]

应用背景:对数函数在科学与工程中用于尺度转换、振幅计算和信号处理,尤其在数据压缩中是重要工具。

二、数列极限

数列极限描述数列项逐渐趋*于某一固定值的行为,是研究数列收敛性的基础。

1. 数列极限的定义

  • 定义:设 \(\{a_n\}\) 为一个数列,如果存在常数 \(L\),使得当 \(n \to +\infty\) 时,\(a_n\) 无限接*于 \(L\),则称 \(L\) 为数列 \(\{a_n\}\) 的极限,记作

    \[\lim_{n \to +\infty} a_n = L \]

    若不存在这样的 \(L\),则称数列发散。

2. 收敛性判断

  • 夹逼准则:若数列 \(\{a_n\}\) 被两个收敛到相同极限的数列夹住,则 \(\{a_n\}\) 也收敛于该极限。
  • 单调有界性准则:若数列 \(\{a_n\}\) 单调且有界,则 \(\{a_n\}\) 必收敛。

3. 利用极限运算法则求极限

  • 常用的极限运算法则有以下几种:
    • 和的极限:\(\lim_{n \to +\infty} (a_n + b_n) = \lim_{n \to +\infty} a_n + \lim_{n \to +\infty} b_n\)
    • 积的极限:\(\lim_{n \to +\infty} (a_n \cdot b_n) = \lim_{n \to +\infty} a_n \cdot \lim_{n \to +\infty} b_n\)
    • 商的极限:\(\lim_{n \to +\infty} \frac{a_n}{b_n} = \frac{\lim_{n \to +\infty} a_n}{\lim_{n \to +\infty} b_n}\)(若 \(\lim_{n \to +\infty} b_n \neq 0\))。

例题

例 4:计算数列 \(\left\{\frac{1}{n}\right\}\) 的极限。

解答

  • \(n \to +\infty\) 时,\(\frac{1}{n} \to 0\),因此

    \[\lim_{n \to +\infty} \frac{1}{n} = 0 \]

例 5:判断数列 \(\left\{\frac{(-1)^n}{n}\right\}\) 的收敛性并求极限。

解答

  • 该数列的通项为 \(\frac{(-1)^n}{n}\),由于 \(\frac{1}{n} \to 0\)\((-1)^n\)\(1\)\(-1\) 之间交替变化,因此可以判断数列 \(\frac{(-1)^n}{n} \to 0\)
  • 所以

    \[\lim_{n \to +\infty} \frac{(-1)^n}{n} = 0 \]

应用背景:数列极限在收敛性分析中至关重要,用于数列和级数的求和,广泛应用于分析学、数值计算和金融中的渐进性分析。


4.极限与连续性

函数极限:定义及左右极限,极限的性质。
无穷小和无穷大的概念及比较法。
连续性:函数的连续定义与间断点的判断。
连续函数的性质:闭区间上的连续性及最值定理、介值定理的应用。

一、函数极限

函数极限用于描述当变量趋向某个值时函数值的趋*行为,是研究函数连续性和导数的基础。

1. 极限的定义

  • 定义:设函数 \(f(x)\)\(x\) 趋*于 \(a\) 时的极限为 \(L\),如果对于任意的 \(\epsilon > 0\),存在 \(\delta > 0\),使得当 \(0 < |x - a| < \delta\) 时,有 \(|f(x) - L| < \epsilon\),则记为

    \[\lim_{x \to a} f(x) = L \]

    表示 \(f(x)\)\(x \to a\) 时趋*于 \(L\)

2. 左右极限

  • 定义\(f(x)\)\(x \to a^+\) 的右极限记作 \(\lim_{x \to a^+} f(x)\),在 \(x \to a^-\) 的左极限记作 \(\lim_{x \to a^-} f(x)\)。若左右极限存在且相等,则称 \(\lim_{x \to a} f(x)\) 存在,且 \(\lim_{x \to a} f(x) = \lim_{x \to a^+} f(x) = \lim_{x \to a^-} f(x)\)

3. 极限的性质

  • 极限的四则运算:若 \(\lim_{x \to a} f(x)\)\(\lim_{x \to a} g(x)\) 存在,则有

    \[\lim_{x \to a} (f(x) \pm g(x)) = \lim_{x \to a} f(x) \pm \lim_{x \to a} g(x) \]

    \[\lim_{x \to a} (f(x) \cdot g(x)) = \lim_{x \to a} f(x) \cdot \lim_{x \to a} g(x) \]

    \(\lim_{x \to a} g(x) \neq 0\),则

    \[\lim_{x \to a} \frac{f(x)}{g(x)} = \frac{\lim_{x \to a} f(x)}{\lim_{x \to a} g(x)} \]

例题

例 1:计算 \(\lim_{x \to 2} \frac{x^2 - 4}{x - 2}\)

解答

  • 直接代入得到 \(0/0\) 型不确定式,可以对分子分解因式:

    \[\lim_{x \to 2} \frac{x^2 - 4}{x - 2} = \lim_{x \to 2} \frac{(x - 2)(x + 2)}{x - 2} = \lim_{x \to 2} (x + 2) = 4 \]

应用背景:函数极限用于连续性判断和导数定义,是微积分基础工具。

二、无穷小和无穷大的概念及比较法

无穷小和无穷大描述了变量趋*某一值时无限接*于零或发散到无穷的情况,是求极限的重要概念。

1. 无穷小和无穷大

  • 无穷小:若 \(\lim_{x \to a} f(x) = 0\),则称 \(f(x)\)\(x \to a\) 时的无穷小量。
  • 无穷大:若 \(\lim_{x \to a} f(x) = \infty\),则称 \(f(x)\)\(x \to a\) 时的无穷大量。

2. 无穷小的比较法

  • 高阶与低阶无穷小:若 \(\lim_{x \to a} \frac{f(x)}{g(x)} = 0\),则称 \(f(x)\)\(g(x)\) 的高阶无穷小,反之若极限为无穷,则称为低阶无穷小。

例题

例 2:比较 \(\sin(x)\)\(x\)\(x \to 0\) 时的无穷小阶数。

解答

  • 使用极限比较法,

    \[\lim_{x \to 0} \frac{\sin(x)}{x} = 1 \]

    因此 \(\sin(x)\)\(x\) 是同阶无穷小。

应用背景:无穷小和无穷大概念用于*似计算、微积分中的极限计算和渐进分析中。

三、连续性

连续性表示函数在某点附**滑连接,无突变或间断,是函数的基本性质之一。

1. 函数的连续定义

  • 定义:若 \(\lim_{x \to a} f(x) = f(a)\),则称 \(f(x)\)\(x = a\) 处连续;若在区间 \(I\) 的每一点都连续,则称 \(f(x)\) 在区间 \(I\) 上连续。

2. 间断点的判断

  • \(\lim_{x \to a} f(x)\) 存在但不等于 \(f(a)\),则 \(x = a\) 为可去间断点;
  • \(\lim_{x \to a^+} f(x) \neq \lim_{x \to a^-} f(x)\),则 \(x = a\) 为跳跃间断点;
  • 若左右极限趋向无穷大,则 \(x = a\) 为无穷间断点。

例题

例 3:判断函数 \(f(x) = \begin{cases} x^2 - 1, & x \neq 1 \\ 2, & x = 1 \end{cases}\)\(x = 1\) 处的连续性。

解答

  • 计算极限 \(\lim_{x \to 1} f(x) = 1^2 - 1 = 0\),而 \(f(1) = 2\),所以 \(f(x)\)\(x = 1\) 处不连续,\(x = 1\) 为可去间断点。

应用背景:连续性用于物理过程中的*滑性分析、求解极值和积分计算等。

四、连续函数的性质

连续函数在数学分析中具有许多重要性质,如最值定理和介值定理。

1. 闭区间上连续性的性质

  • 最值定理:若 \(f(x)\) 在闭区间 \([a, b]\) 上连续,则 \(f(x)\)\([a, b]\) 上必有最大值和最小值。
  • 介值定理:若 \(f(x)\) 在闭区间 \([a, b]\) 上连续,且 \(f(a) \neq f(b)\),则对于任意介于 \(f(a)\)\(f(b)\) 之间的值 \(y\),存在 \(c \in (a, b)\) 使得 \(f(c) = y\)

例题

例 4:设 \(f(x) = x^3 - x\),证明在区间 \([0, 1]\) 上存在点 \(c\) 使得 \(f(c) = 0\)

解答

  • 计算端点值,得 \(f(0) = 0\)\(f(1) = 0\)。在 \([0, 1]\) 内任意小区间,可以找到 \(f(x)\) 在其中的零点,故满足介值定理,即存在 \(c \in (0, 1)\) 使得 \(f(c) = 0\)

应用背景:最值定理和介值定理在物理学、工程学和优化问题中广泛应用,用于求解过程中的临界值和零点问题。


5.导数与微分

导数定义与计算:求导法则,包括乘法、除法、链式法则。
几何意义:切线斜率与切线方程。
偏导数与方向导数:二元及多元函数的偏导数和方向导数。
梯度向量:理解梯度的几何意义及在最速上升方向的应用。

一、导数定义与计算

导数是描述函数变化率的工具,在微积分和优化中广泛应用。

1. 导数的定义

  • 定义:设函数 \(f(x)\)\(x = a\) 处的导数为

    \[f'(a) = \lim_{h \to 0} \frac{f(a + h) - f(a)}{h} \]

    表示当 \(x\) 接* \(a\) 时,\(f(x)\) 的变化率。若极限存在,则称 \(f(x)\)\(x = a\) 处可导。

2. 求导法则

  • 基本求导法则
    • 常数法则:\((c)' = 0\)
    • 幂函数法则:\((x^n)' = nx^{n-1}\)
    • 指数函数法则:\((e^x)' = e^x\)
    • 对数函数法则:\((\ln x)' = \frac{1}{x}\)
  • 乘法法则\((f \cdot g)' = f' \cdot g + f \cdot g'\)
  • 除法法则\(\left(\frac{f}{g}\right)' = \frac{f' \cdot g - f \cdot g'}{g^2}\)
  • 链式法则:若 \(y = f(u)\)\(u = g(x)\),则复合函数 \(y = f(g(x))\) 的导数为 \(y' = f'(g(x)) \cdot g'(x)\)

例题

例 1:求函数 \(f(x) = (3x^2 + 2x)(x - 1)\) 的导数。

解答

  • 使用乘法法则,设 \(u = 3x^2 + 2x\)\(v = x - 1\),则 \(u' = 6x + 2\)\(v' = 1\)

    \[f'(x) = u' \cdot v + u \cdot v' = (6x + 2)(x - 1) + (3x^2 + 2x) \cdot 1 = 9x^2 - 4x - 2 \]

应用背景:导数在物理学中用于求速度和加速度,在经济学中用于边际分析。

二、几何意义:切线斜率与切线方程

导数的几何意义为曲线上一点的切线斜率,用于研究曲线在该点的瞬时变化趋势。

1. 切线斜率

  • 定义:函数 \(f(x)\)\(x = a\) 处的导数 \(f'(a)\) 是曲线 \(y = f(x)\) 在点 \((a, f(a))\) 处的切线斜率。

2. 切线方程

  • 定义:曲线 \(y = f(x)\) 在点 \((a, f(a))\) 处的切线方程为

    \[y - f(a) = f'(a)(x - a) \]

例题

例 2:求曲线 \(y = x^2\) 在点 \((1, 1)\) 处的切线方程。

解答

  • 计算导数 \(f'(x) = 2x\),代入 \(x = 1\)\(f'(1) = 2\)
  • 切线方程为

    \[y - 1 = 2(x - 1) \Rightarrow y = 2x - 1 \]

应用背景:切线方程在运动学中描述物体瞬时速度方向,在工程中用于局部*似分析。

三、偏导数与方向导数

在多元函数中,偏导数和方向导数用于描述函数在不同方向上的变化率。

1. 偏导数

  • 定义:对于二元函数 \(f(x, y)\)\(x\) 方向的偏导数为

    \[\frac{\partial f}{\partial x} = \lim_{h \to 0} \frac{f(x + h, y) - f(x, y)}{h} \]

    表示 \(f(x, y)\)\(x\) 方向的变化率。类似地,\(y\) 方向的偏导数为 \(\frac{\partial f}{\partial y}\)

2. 方向导数

  • 定义:函数 \(f(x, y)\) 在点 \((x_0, y_0)\) 沿单位向量 \(\mathbf{u} = (u_1, u_2)\) 的方向导数定义为

    \[D_{\mathbf{u}} f(x_0, y_0) = \lim_{h \to 0} \frac{f(x_0 + hu_1, y_0 + hu_2) - f(x_0, y_0)}{h} = \nabla f(x_0, y_0) \cdot \mathbf{u} \]

    表示 \(f\) 在方向 \(\mathbf{u}\) 上的变化率。

例题

例 3:设 \(f(x, y) = x^2 + y^2\),求在点 \((1, 1)\) 处沿方向 \(\mathbf{u} = \left(\frac{1}{\sqrt{2}}, \frac{1}{\sqrt{2}}\right)\) 的方向导数。

解答

  • 计算偏导数 \(\frac{\partial f}{\partial x} = 2x\)\(\frac{\partial f}{\partial y} = 2y\),在 \((1, 1)\) 处得 \(\nabla f(1, 1) = (2, 2)\)
  • 方向导数为

    \[D_{\mathbf{u}} f(1, 1) = \nabla f(1, 1) \cdot \mathbf{u} = (2, 2) \cdot \left(\frac{1}{\sqrt{2}}, \frac{1}{\sqrt{2}}\right) = 2\sqrt{2} \]

应用背景:方向导数在物理学中用于描述温度或浓度的梯度变化方向。

四、梯度向量

梯度向量是多元函数的导数向量,表示函数在每个方向的变化率,指向函数增长最快的方向。

1. 梯度的定义

  • 定义:对于二元函数 \(f(x, y)\),其梯度向量为

    \[\nabla f(x, y) = \left(\frac{\partial f}{\partial x}, \frac{\partial f}{\partial y}\right) \]

    在点 \((x, y)\) 处指向函数值增长最快的方向。

2. 梯度的几何意义

  • 梯度向量的方向表示函数增长最快的方向,其大小表示该方向上的增长速率。

例题

例 4:设 \(f(x, y) = 3x^2 + 4y^2\),求在点 \((1, 1)\) 处的梯度向量,并解释其意义。

解答

  • 计算偏导数 \(\frac{\partial f}{\partial x} = 6x\)\(\frac{\partial f}{\partial y} = 8y\),所以在 \((1, 1)\) 处梯度向量为

    \[\nabla f(1, 1) = (6, 8) \]

  • 梯度向量 \((6, 8)\) 表示在点 \((1, 1)\) 处,\(f(x, y)\) 沿着方向 \((6, 8)\) 增长最快,增长速率为 \(\sqrt{6^2 + 8^2} = 10\)

应用背景:梯度在优化问题中用于确定最速上升或下降方向,在机器学习的梯度下降法中用于最小化损失函数。


6.Taylor公式与极值问题

Taylor公式:Taylor多项式展开及应用。
条件极值与无条件极值:Lagrange乘数法求条件极值。
二次型与极值判别:二次型定义与正定性判别。

一、Taylor公式

Taylor公式是一种将函数在某点附*展开为多项式形式的工具,可用于*似函数值和分析函数的局部性质。

1. Taylor多项式展开

  • 给定在点 \(x = a\) 处有 \(n\) 阶可导的函数 \(f(x)\),其 \(n\) 阶 Taylor 多项式表示为

    \[f(x) \approx f(a) + f'(a)(x - a) + \frac{f''(a)}{2!}(x - a)^2 + \dots + \frac{f^{(n)}(a)}{n!}(x - a)^n \]

  • \(a = 0\) 时,称为 Maclaurin 展开,即

    \[f(x) \approx f(0) + f'(0)x + \frac{f''(0)}{2!}x^2 + \dots + \frac{f^{(n)}(0)}{n!}x^n \]

2. Taylor公式的应用

  • Taylor公式可以用于函数值*似计算,也可用来分析函数的局部性质,例如判断极值和拐点。

例题

例 1:将 \(f(x) = e^x\)\(x = 0\) 处展开为 3 阶 Taylor 多项式。

解答

  • 计算各阶导数并取值:
    • \(f(x) = e^x\)\(f(0) = 1\)
    • \(f'(x) = e^x\)\(f'(0) = 1\)
    • \(f''(x) = e^x\)\(f''(0) = 1\)
    • \(f'''(x) = e^x\)\(f'''(0) = 1\)
  • Taylor展开式为

    \[f(x) \approx 1 + x + \frac{x^2}{2} + \frac{x^3}{6} \]

二、条件极值与无条件极值

条件极值和无条件极值用于寻找函数的最大值和最小值。在无条件情况下,可以使用导数判断极值;在条件下使用拉格朗日乘数法。

1. 无条件极值

  • 对于在区域内无约束的函数 \(f(x, y)\),若 \((x_0, y_0)\) 处的一阶导数为零,即 \(\frac{\partial f}{\partial x}(x_0, y_0) = 0\)\(\frac{\partial f}{\partial y}(x_0, y_0) = 0\),则该点为极值点。通过二阶导数判别极值类型。

2. 条件极值(Lagrange乘数法)

  • 对于目标函数 \(f(x, y)\) 在约束条件 \(g(x, y) = 0\) 下的极值问题,定义拉格朗日函数

    \[\mathcal{L}(x, y, \lambda) = f(x, y) + \lambda g(x, y) \]

  • 求解 \(\frac{\partial \mathcal{L}}{\partial x} = 0\)\(\frac{\partial \mathcal{L}}{\partial y} = 0\)\(\frac{\partial \mathcal{L}}{\partial \lambda} = 0\),解出 \((x, y, \lambda)\) 后得极值点。

例题

例 2:求在约束条件 \(x + y = 1\) 下,函数 \(f(x, y) = x^2 + y^2\) 的极值。

解答

  • 定义拉格朗日函数:

    \[\mathcal{L}(x, y, \lambda) = x^2 + y^2 + \lambda (x + y - 1) \]

  • 求偏导数并令其为零:
    • \(\frac{\partial \mathcal{L}}{\partial x} = 2x + \lambda = 0\)
    • \(\frac{\partial \mathcal{L}}{\partial y} = 2y + \lambda = 0\)
    • \(\frac{\partial \mathcal{L}}{\partial \lambda} = x + y - 1 = 0\)
  • \(\lambda = -2x\)\(\lambda = -2y\)\(x = y\),代入 \(x + y = 1\)\(x = y = \frac{1}{2}\)
  • 所以极值点为 \((\frac{1}{2}, \frac{1}{2})\),极值为

    \[f\left(\frac{1}{2}, \frac{1}{2}\right) = \left(\frac{1}{2}\right)^2 + \left(\frac{1}{2}\right)^2 = \frac{1}{2} \]

三、二次型与极值判别

二次型广泛用于分析多元二次函数的性质,通过判断其正定性可以分析二次型的极值。

1. 二次型的定义

  • 二次型是形如 \(Q(x) = x^T A x\) 的函数,其中 \(x\) 是向量,\(A\) 是对称矩阵。如果 \(A\) 为正定矩阵,则 \(Q(x) > 0\);若 \(A\) 为负定矩阵,则 \(Q(x) < 0\)

2. 正定性判别方法

  • 特征值判别:若矩阵 \(A\) 的特征值全为正,则 \(A\) 正定;若全为负,则 \(A\) 负定。
  • 主子式判别:若 \(A\) 的所有顺序主子式均为正,则 \(A\) 为正定矩阵。

例题

例 3:判断二次型 \(Q(x, y) = 3x^2 + 2xy + y^2\) 的正定性。

解答

  • 将二次型 \(Q(x, y) = 3x^2 + 2xy + y^2\) 写为矩阵形式 \(Q(x, y) = \begin{pmatrix} x & y \end{pmatrix} \begin{pmatrix} 3 & 1 \\ 1 & 1 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix}\),得到对称矩阵 \(A = \begin{pmatrix} 3 & 1 \\ 1 & 1 \end{pmatrix}\)
  • 计算 \(A\) 的顺序主子式:
    • 一级主子式:\(3 > 0\)
    • 二级主子式:\(\det(A) = 3 \cdot 1 - 1 \cdot 1 = 2 > 0\)
  • 因此,\(A\) 的所有顺序主子式均为正,故 \(A\) 为正定矩阵,二次型 \(Q(x, y) > 0\) 对所有非零 \((x, y)\) 成立。

7.重积分与曲面积分

重积分的定义与计算方法,包括在极坐标和柱坐标下的转换。
曲面积分:理解第一类与第二类曲面积分的概念和应用。
Green公式、Stokes公式和Gauss公式在曲面积分中的应用。

一、重积分的定义与计算方法

重积分是用于计算多维空间中某一区域上的函数累积量的工具,能够帮助我们求得面积、体积、质量等物理量。

1. 重积分的定义与几何意义

  • 对于在区域 \(D\) 上定义的二元函数 \(f(x, y)\),其重积分表示为

    \[\iint_D f(x, y) \, dA \]

    其中 \(dA\) 表示小区域的面积元。
  • 几何意义:重积分可以看作是对函数 \(f(x, y)\) 在区域 \(D\) 上的“堆叠”,即将每个微小区域的“高度”累加起来,类似于求出地形的总体积。
  • 物理意义:如果 \(f(x, y)\) 表示密度函数,那么 \(\iint_D f(x, y) \, dA\) 就是区域 \(D\) 的总质量。

2. 直角坐标系中的重积分计算

  • 当区域 \(D\) 可以用 \(x\)\(y\) 的边界描述时,可以将重积分写成以下形式:

    \[\iint_D f(x, y) \, dA = \int_a^b \int_{g_1(x)}^{g_2(x)} f(x, y) \, dy \, dx \]

    这样可以通过逐次积分来计算出累积值。

3. 极坐标中的重积分计算

  • 如果区域 \(D\) 是圆形或圆环形,使用极坐标计算重积分会更方便。极坐标下的转换公式为 \(x = r \cos \theta\)\(y = r \sin \theta\),而面积元 \(dA\) 变为 \(r \, dr \, d\theta\)
  • 在极坐标下,重积分表示为

    \[\iint_D f(x, y) \, dA = \int_{\alpha}^{\beta} \int_{r_1(\theta)}^{r_2(\theta)} f(r \cos \theta, r \sin \theta) \, r \, dr \, d\theta \]

例题

例 1:计算区域 \(D\) 中的重积分 \(\iint_D (x^2 + y^2) \, dA\),其中 \(D\) 是以原点为圆心、半径为 \(R\) 的圆盘。

解答

  • 这里,\(f(x, y) = x^2 + y^2\),在极坐标中 \(x^2 + y^2 = r^2\),且 \(dA = r \, dr \, d\theta\)
  • 将积分转为极坐标:

    \[\iint_D (x^2 + y^2) \, dA = \int_0^{2\pi} \int_0^R r^2 \cdot r \, dr \, d\theta = \int_0^{2\pi} \int_0^R r^3 \, dr \, d\theta \]

  • 计算内层积分:

    \[\int_0^R r^3 \, dr = \frac{r^4}{4} \Big|_0^R = \frac{R^4}{4} \]

  • 计算外层积分:

    \[\int_0^{2\pi} \frac{R^4}{4} \, d\theta = \frac{R^4}{4} \cdot 2\pi = \frac{\pi R^4}{2} \]

应用背景:假设 \(f(x, y) = x^2 + y^2\) 代表密度分布,单位为 kg/m²,那么结果 \(\frac{\pi R^4}{2}\) 表示以原点为圆心、半径为 \(R\) 的圆形薄片的总质量。


二、曲面积分

曲面积分用于计算曲面上的函数累积,主要用于计算表面流量或曲面上的“重量”。

1. 曲面积分的定义与物理意义

  • 第一类曲面积分 \(\iint_S f(x, y, z) \, dS\) 表示函数 \(f(x, y, z)\) 在曲面 \(S\) 上的“堆叠”累积。例如,\(f(x, y, z)\) 表示密度时,该积分就代表曲面 \(S\) 的总质量。
  • 第二类曲面积分 \(\iint_S \mathbf{F} \cdot d\mathbf{S} = \iint_S \mathbf{F} \cdot \mathbf{n} \, dS\) 则是计算向量场 \(\mathbf{F}\) 在曲面 \(S\) 上的“通量”,即流过曲面 \(S\) 的总流量,\(\mathbf{n}\) 为单位法向量。

例题

例 2:设向量场 \(\mathbf{F}(x, y, z) = (x, y, z)\),计算它在单位球面 \(S\) 上的第二类曲面积分 \(\iint_S \mathbf{F} \cdot d\mathbf{S}\)

解答

  • 根据 Gauss 定理,将曲面积分转换为体积分:

    \[\iint_S \mathbf{F} \cdot d\mathbf{S} = \iiint_V (\nabla \cdot \mathbf{F}) \, dV \]

  • 计算散度 \(\nabla \cdot \mathbf{F} = \frac{\partial x}{\partial x} + \frac{\partial y}{\partial y} + \frac{\partial z}{\partial z} = 3\)
  • 将积分区域 \(V\) 设为单位球体,则体积积分为:

    \[\iiint_V 3 \, dV = 3 \cdot \frac{4}{3} \pi (1)^3 = 4\pi \]

应用背景:假设 \(\mathbf{F}(x, y, z) = (x, y, z)\) 表示流体速度场,那么 \(\iint_S \mathbf{F} \cdot d\mathbf{S} = 4\pi\) 表示从单位球体的表面流出的总流量,代表单位球体内的“源”所生成的流量。


三、Green公式、Stokes公式和Gauss公式

这些矢量分析中的重要公式可以将曲线、曲面或体积分进行转换,用于简化计算。

1. Green公式

  • Green公式用于二维*面上,将封闭曲线的积分转化为区域上的重积分:

    \[\oint_C (P \, dx + Q \, dy) = \iint_D \left( \frac{\partial Q}{\partial x} - \frac{\partial P}{\partial y} \right) \, dA \]

  • 几何意义:Green公式表示的是将围绕区域的“旋转”效果转化为区域内部的累积。这一公式可以帮助简化复杂的边界积分。

例题

例 3:利用Green公式计算沿单位圆周 \(C\) 的曲线积分 \(\oint_C (y \, dx - x \, dy)\)

解答

  • 根据Green公式,有

    \[\oint_C (y \, dx - x \, dy) = \iint_D \left( \frac{\partial (-x)}{\partial x} - \frac{\partial y}{\partial y} \right) \, dA \]

  • 计算偏导数:

    \[\frac{\partial (-x)}{\partial x} = -1, \quad \frac{\partial y}{\partial y} = 1 \]

  • 所以

    \[\oint_C (y \, dx - x \, dy) = \iint_D (-1 - 1) \, dA = -2 \iint_D \, dA \]

  • 圆周 \(C\) 围成的区域 \(D\) 为单位圆,其面积为 \(\pi\),因此

    \[\oint_C (y \, dx - x \, dy) = -2 \pi \]

应用背景:Green公式可以用于计算*面流体的“旋转”效果。例如,当 \(P(x, y) = y\)\(Q(x, y) = -x\) 表示速度场时,\(\oint_C (y \, dx - x \, dy)\) 表示流体沿闭合路径的总旋转。


2. Stokes公式

  • Stokes公式是Green公式的三维推广,将三维空间中的曲线积分转换为曲面上的积分:

    \[\oint_C \mathbf{F} \cdot d\mathbf{r} = \iint_S (\nabla \times \mathbf{F}) \cdot d\mathbf{S} \]

  • 物理意义:Stokes公式描述了沿着曲面边界曲线上的“旋转”效果等价于曲面内部的“旋度”累积。它在流体、磁场等物理学中有广泛应用。

例题

例 4:设向量场 \(\mathbf{F}(x, y, z) = (-y, x, 0)\),计算该场沿曲线 \(C\) 的环流积分 \(\oint_C \mathbf{F} \cdot d\mathbf{r}\),其中 \(C\) 是在 \(z = 0\) *面上,围绕单位圆周的边界,且曲面 \(S\)\(C\) 所围成的圆盘。

解答

  • 先计算旋度 \(\nabla \times \mathbf{F}\)

    \[\nabla \times \mathbf{F} = \left( \frac{\partial}{\partial y}(0) - \frac{\partial}{\partial z}(x), \frac{\partial}{\partial z}(-y) - \frac{\partial}{\partial x}(0), \frac{\partial}{\partial x}(x) - \frac{\partial}{\partial y}(-y) \right) = (0, 0, 2) \]

  • 根据Stokes公式,有

    \[\oint_C \mathbf{F} \cdot d\mathbf{r} = \iint_S (\nabla \times \mathbf{F}) \cdot d\mathbf{S} = \iint_S 2 \, dS \]

  • 曲面 \(S\) 为单位圆,面积为 \(\pi\),因此

    \[\oint_C \mathbf{F} \cdot d\mathbf{r} = 2 \cdot \pi = 2\pi \]

应用背景:该例子可以看作是计算*面上“绕旋”流场的环流。例如,\(\mathbf{F}(x, y, z) = (-y, x, 0)\) 可以理解为旋转速度场,环流结果表示绕圆盘边界的总旋转效果。


3. Gauss公式(散度定理)

  • Gauss公式将闭合曲面上的积分转换为体积分,表达了曲面上的流出量与体积内的“源头”之和的关系:

    \[\iint_S \mathbf{F} \cdot d\mathbf{S} = \iiint_V (\nabla \cdot \mathbf{F}) \, dV \]

  • 物理意义:散度定理描述了曲面总流量等于体积内“源点”总和,用于描述场在空间中的发散和收缩,广泛应用于流体力学和电场理论。

例题

例 5:设向量场 \(\mathbf{F}(x, y, z) = (2x, 3y, z)\),求单位球体 \(V\) 的表面 \(S\) 上的通量 \(\iint_S \mathbf{F} \cdot d\mathbf{S}\)

解答

  • 计算散度 \(\nabla \cdot \mathbf{F}\)

    \[\nabla \cdot \mathbf{F} = \frac{\partial (2x)}{\partial x} + \frac{\partial (3y)}{\partial y} + \frac{\partial z}{\partial z} = 2 + 3 + 1 = 6 \]

  • 根据散度定理,将曲面积分转换为体积分:

    \[\iint_S \mathbf{F} \cdot d\mathbf{S} = \iiint_V 6 \, dV \]

  • 体积 \(V\) 为单位球体,体积为 \(\frac{4}{3} \pi\),因此

    \[\iint_S \mathbf{F} \cdot d\mathbf{S} = 6 \cdot \frac{4}{3} \pi = 8 \pi \]

应用背景:该例子展示了如何计算流体从球形区域流出的总流量。假设 \(\mathbf{F}(x, y, z)\) 是一个速度场,那么结果 \(8\pi\) 代表了单位球体内流体“源”所引起的流量总和。


8.微分方程

一阶微分方程:变量可分离方程、齐次方程、全微分方程的求解。
二阶常系数微分方程:齐次方程和非齐次方程的解法。
Euler方程与幂级数解法简介。

一、一阶微分方程

一阶微分方程描述了一个未知函数的导数与自变量和函数值之间的关系,广泛应用于描述物理、经济和生物学中的动态变化。

1. 变量可分离方程

  • 变量可分离方程的形式为 $ \frac{dy}{dx} = g(x) h(y) $。当可以将 \(x\)\(y\) 的项分离时,即可通过积分求解。
  • 解法:将方程写成 \(\frac{1}{h(y)} \, dy = g(x) \, dx\),然后两边分别对 \(x\)\(y\) 进行积分。

例题

例 1:解方程 \(\frac{dy}{dx} = x y\)

解答

  • 分离变量,将方程改写为 \(\frac{1}{y} \, dy = x \, dx\)
  • 对两边积分得到 \(\ln |y| = \frac{x^2}{2} + C\),其中 \(C\) 为积分常数。
  • 整理得 \(y = C e^{\frac{x^2}{2}}\)

应用背景:该方程描述一个增长率与当前量成正比的情况,适用于人口增长模型和放射性衰变模型。


2. 齐次方程

  • 齐次方程的形式为 \(\frac{dy}{dx} = f\left(\frac{y}{x}\right)\)。通过代换 \(y = vx\),其中 \(v\)\(x\) 的函数,可以将方程转化为可分离变量形式。
  • 解法:代入 \(y = vx\),求出 \(\frac{dy}{dx} = v + x \frac{dv}{dx}\),并将方程中的 \(y\) 替换为 \(vx\),转化为关于 \(v\)\(x\) 的方程。

例题

例 2:解方程 \(\frac{dy}{dx} = \frac{x + y}{x}\)

解答

  • 代入 \(y = vx\),则 \(\frac{dy}{dx} = v + x \frac{dv}{dx}\)
  • 将原方程改写为 \(v + x \frac{dv}{dx} = 1 + v\)
  • 整理后得 \(x \frac{dv}{dx} = 1\),积分得 \(v = \ln x + C\),从而 \(y = x(\ln x + C)\)

应用背景:这种齐次方程可用于描述均匀场中的变化,如电场中的电位分布。


3. 全微分方程

  • 若方程可以写成 \(M(x, y) \, dx + N(x, y) \, dy = 0\),且满足条件 \(\frac{\partial M}{\partial y} = \frac{\partial N}{\partial x}\),则称之为全微分方程。
  • 解法:找到一个函数 \(F(x, y)\) 使得 \(\frac{\partial F}{\partial x} = M\)\(\frac{\partial F}{\partial y} = N\),则方程的解为 \(F(x, y) = C\)

例题

例 3:解方程 \((2xy + y^2) \, dx + (x^2 + 2xy) \, dy = 0\)

解答

  • 计算偏导数:\(\frac{\partial M}{\partial y} = 2x + 2y\)\(\frac{\partial N}{\partial x} = 2x + 2y\),满足全微分条件。
  • \(F(x, y)\) 满足 \(\frac{\partial F}{\partial x} = 2xy + y^2\),对 \(x\) 积分得 \(F(x, y) = x^2 y + xy^2 + g(y)\)
  • \(\frac{\partial F}{\partial y} = x^2 + 2xy\) 确定 \(g(y)\),得到 \(g(y)\) 为常数,故解为 \(x^2 y + xy^2 = C\)

应用背景:全微分方程广泛用于描述稳态场中的能量和电位,如电势、引力势等。

二、二阶常系数微分方程

二阶常系数微分方程可以用于描述振动、弹性和电子电路等问题中的二阶动态系统。

1. 齐次方程

  • 齐次方程形式为 \(a y'' + b y' + c y = 0\),其通解取决于特征方程 \(a r^2 + b r + c = 0\) 的根。
    • 若有两个不同的实根 \(r_1\)\(r_2\),通解为 \(y = C_1 e^{r_1 x} + C_2 e^{r_2 x}\)
    • 若有一对复根 \(r = \alpha \pm \beta i\),通解为 \(y = e^{\alpha x} (C_1 \cos \beta x + C_2 \sin \beta x)\)
    • 若有重根 \(r\),通解为 \(y = (C_1 + C_2 x)e^{r x}\)

例题

例 4:求解方程 \(y'' - 3y' + 2y = 0\)

解答

  • 特征方程为 \(r^2 - 3r + 2 = 0\),解得 \(r_1 = 1, r_2 = 2\)
  • 因此,通解为 \(y = C_1 e^x + C_2 e^{2x}\)

应用背景:该方程可以描述一个无阻尼的振动系统。

2. 非齐次方程

  • 非齐次方程形式为 \(a y'' + b y' + c y = g(x)\),其解为齐次方程通解与特解的和。特解的形式依赖于 \(g(x)\) 的类型。
    • \(g(x)\) 为多项式、指数函数或三角函数时,可设特解形式并代入求解。

例题

例 5:求解方程 \(y'' + y = \sin x\)

解答

  • 齐次方程 \(y'' + y = 0\) 的通解为 \(y_h = C_1 \cos x + C_2 \sin x\)
  • 设特解 \(y_p = A x \cos x + B x \sin x\),代入方程并解得 \(A = 0, B = -\frac{1}{2}\)
  • 故通解为 \(y = C_1 \cos x + C_2 \sin x - \frac{1}{2} x \sin x\)

应用背景:该非齐次方程可用于描述强迫振动系统,如受到周期性外力的振子。

三、Euler方程与幂级数解法简介

1. Euler方程

  • 形式为 \(x^2 y'' + a x y' + b y = 0\),可以通过变换 \(x = e^t\) 将其转化为常系数微分方程。
  • 解法:假设解的形式为 \(y = x^r\),代入方程得到关于 \(r\) 的方程,解出 \(r\) 后得到通解。

例题

例 6:解Euler方程 \(x^2 y'' - x y' + y = 0\)

解答

  • \(y = x^r\),代入得特征方程 \(r^2 - 2r + 1 = 0\),解得 \(r = 1\)(重根)。
  • 因此通解为 \(y = C_1 x + C_2 x \ln x\)

应用背景:Euler方程常用于描述不均匀材料或变截面构件的振动问题。

2. 幂级数解法

  • 对于形如 \(y'' + p(x) y' + q(x) y = 0\) 的方程,可以将解展开成幂级数 \(y = \sum_{n=0}^{\infty} a_n x^n\) 代入方程,逐项匹配求解 \(a_n\) 系数。

例题

例 7:用幂级数法解 \(y'' + xy = 0\)

解答

  • \(y = \sum_{n=0}^{\infty} a_n x^n\),代入得 \(y'' = \sum_{n=2}^{\infty} a_n n(n-1) x^{n-2}\)
  • \(y\)\(y''\) 展开并合并同次幂,得到递推关系式,解出每一项系数 \(a_n\)

应用背景:幂级数法适用于复杂函数的展开求解,广泛应用于物理中的波动方程和量子力学方程求解。


线性代数

1.行列式与矩阵

行列式的定义、性质及展开方式。
矩阵的运算:加法、乘法及转置。
逆矩阵的定义与计算:行列式法与伴随矩阵法。

一、行列式与矩阵

行列式和矩阵是线性代数的核心工具,用于描述线性变换、解方程组和求解许多工程和科学中的问题。

1. 行列式的定义与性质

  • 行列式的定义:对于 \(n \times n\) 的矩阵 \(A\),其行列式表示为 \(|A|\)\(\det(A)\),用于衡量该矩阵所代表的线性变换的“体积缩放因子”。
  • 几何意义:行列式的绝对值表示一个区域在经过线性变换后的面积(二维)或体积(三维)的变化倍数。
  • 行列式的性质
    • 行列式为零当且仅当矩阵不可逆。
    • 交换矩阵的两行或两列,行列式变号。
    • 若矩阵的某一行或列全为零,则行列式为零。
    • 行列式满足乘法性质:\(\det(AB) = \det(A) \det(B)\)

2. 行列式的展开

  • 二阶行列式:

    \[\det \begin{pmatrix} a & b \\ c & d \end{pmatrix} = ad - bc \]

  • 三阶行列式可通过展开式求解:

    \[\det \begin{pmatrix} a & b & c \\ d & e & f \\ g & h & i \end{pmatrix} = a(ei - fh) - b(di - fg) + c(dh - eg) \]

  • 高阶行列式可按某一行或列展开为多项式求解。

例题

例 1:计算三阶行列式 \(\det \begin{pmatrix} 1 & 2 & 3 \\ 0 & -1 & 4 \\ 5 & 2 & 1 \end{pmatrix}\)

解答

  • 选择第一行展开:

    \[\det \begin{pmatrix} 1 & 2 & 3 \\ 0 & -1 & 4 \\ 5 & 2 & 1 \end{pmatrix} = 1 \cdot \det \begin{pmatrix} -1 & 4 \\ 2 & 1 \end{pmatrix} - 2 \cdot \det \begin{pmatrix} 0 & 4 \\ 5 & 1 \end{pmatrix} + 3 \cdot \det \begin{pmatrix} 0 & -1 \\ 5 & 2 \end{pmatrix} \]

  • 计算每个二阶行列式:

    \[= 1 \cdot (-1 \cdot 1 - 4 \cdot 2) - 2 \cdot (0 \cdot 1 - 4 \cdot 5) + 3 \cdot (0 \cdot 2 - (-1) \cdot 5) \]

    \[= 1 \cdot (-1 - 8) - 2 \cdot (-20) + 3 \cdot 5 = -9 + 40 + 15 = 46 \]

应用背景:行列式计算在解方程组和判断矩阵是否可逆中起到关键作用。例如,行列式为零时矩阵不可逆,反之矩阵可逆。

二、矩阵的运算

矩阵运算包括加法、乘法和转置等基本操作,用于描述和计算线性系统的组合和转换。

1. 矩阵加法

  • 矩阵加法是对应元素相加。例如,对于矩阵 \(A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}\)\(B = \begin{pmatrix} e & f \\ g & h \end{pmatrix}\),有

    \[A + B = \begin{pmatrix} a+e & b+f \\ c+g & d+h \end{pmatrix} \]

2. 矩阵乘法

  • 矩阵乘法定义为行列乘积,即若 \(A\)\(m \times n\) 矩阵,\(B\)\(n \times p\) 矩阵,则 \(C = AB\)\(m \times p\) 矩阵,且 \(C_{ij} = \sum_{k=1}^n A_{ik} B_{kj}\)

3. 矩阵转置

  • 矩阵的转置将矩阵的行列互换,记作 \(A^T\)。例如,\(A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}\) 的转置为

    \[A^T = \begin{pmatrix} a & c \\ b & d \end{pmatrix} \]

例题

例 2:设 \(A = \begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}\)\(B = \begin{pmatrix} 2 & 0 \\ 1 & 3 \end{pmatrix}\),计算 \(A + B\)\(AB\)

解答

  • 矩阵相加:

    \[A + B = \begin{pmatrix} 1+2 & 2+0 \\ 3+1 & 4+3 \end{pmatrix} = \begin{pmatrix} 3 & 2 \\ 4 & 7 \end{pmatrix} \]

  • 矩阵相乘:

    \[AB = \begin{pmatrix} 1 \cdot 2 + 2 \cdot 1 & 1 \cdot 0 + 2 \cdot 3 \\ 3 \cdot 2 + 4 \cdot 1 & 3 \cdot 0 + 4 \cdot 3 \end{pmatrix} = \begin{pmatrix} 4 & 6 \\ 10 & 12 \end{pmatrix} \]

应用背景:矩阵运算广泛用于数据变换、物理旋转、系统方程的表达等。

三、逆矩阵的定义与计算

逆矩阵用于解线性方程组和描述反向变换。若矩阵 \(A\) 存在逆矩阵 \(A^{-1}\),则 \(A A^{-1} = A^{-1} A = I\),其中 \(I\) 是单位矩阵。

1. 逆矩阵的定义

  • 对于 \(n \times n\) 的可逆矩阵 \(A\),其逆矩阵 \(A^{-1}\) 满足 \(A A^{-1} = I\),表示将 \(A\) 的线性变换反转回去的操作。

2. 行列式法求逆矩阵

  • 若矩阵 \(A\)\(2 \times 2\) 矩阵 \(\begin{pmatrix} a & b \\ c & d \end{pmatrix}\),且行列式不为零,则

    \[A^{-1} = \frac{1}{\det(A)} \begin{pmatrix} d & -b \\ -c & a \end{pmatrix} = \frac{1}{ad - bc} \begin{pmatrix} d & -b \\ -c & a \end{pmatrix} \]

3. 伴随矩阵法求逆矩阵

  • 对于更高阶矩阵,可以利用伴随矩阵求逆。设 \(A\) 的伴随矩阵为 \(A^*\),则 \(A^{-1} = \frac{1}{\det(A)} A^*\)

例题

例 3:设 \(A = \begin{pmatrix} 1 & 2 \\ 3 & 4 \end{pmatrix}\),求 \(A\) 的逆矩阵。

解答

  • 计算行列式 \(\det(A) = 1 \cdot 4 - 2 \cdot 3 = 4 - 6 = -2\)
  • 使用行列式法:

    \[A^{-1} = \frac{1}{-2} \begin{pmatrix} 4 & -2 \\ -3 & 1 \end{pmatrix} = \begin{pmatrix} -2 & 1 \\ \frac{3}{2} & -\frac{1}{2} \end{pmatrix} \]

应用背景:逆矩阵常用于解线性方程组。对于方程组 \(AX = B\),若 \(A\) 可逆,则 \(X = A^{-1} B\)。此外,逆矩阵也用于描述物理过程中的逆向操作,如变换坐标系等。


2.向量与线性方程组

向量组的线性相关性、向量组的秩与极大无关组。
线性方程组解的结构:解的唯一性与无穷多解的情况。

一、向量与线性方程组

向量和线性方程组是线性代数中的重要概念,用于描述空间中点、线和面的关系,并广泛应用于工程和科学计算中。

1. 向量组的线性相关性

  • 定义:对于向量组 \(\{ \mathbf{v}_1, \mathbf{v}_2, \dots, \mathbf{v}_n \}\),如果存在一组不全为零的常数 \(\{ c_1, c_2, \dots, c_n \}\),使得 \(c_1 \mathbf{v}_1 + c_2 \mathbf{v}_2 + \dots + c_n \mathbf{v}_n = \mathbf{0}\),则称该向量组线性相关;否则称为线性无关。
  • 几何意义:线性无关表示这些向量在空间中“指向”不同方向,而线性相关则意味着至少一个向量可以由其他向量线性组合得到。

例题

例 1:判断向量 \(\mathbf{v}_1 = \begin{pmatrix} 1 \\ 2 \\ 3 \end{pmatrix}\)\(\mathbf{v}_2 = \begin{pmatrix} 2 \\ 4 \\ 6 \end{pmatrix}\)\(\mathbf{v}_3 = \begin{pmatrix} -1 \\ -2 \\ -3 \end{pmatrix}\) 是否线性相关。

解答

  • 观察发现 \(\mathbf{v}_2 = 2 \mathbf{v}_1\)\(\mathbf{v}_3 = -\mathbf{v}_1\),因此 \(\mathbf{v}_2\)\(\mathbf{v}_3\) 都可以由 \(\mathbf{v}_1\) 表示。
  • 所以 \(\mathbf{v}_1, \mathbf{v}_2, \mathbf{v}_3\) 线性相关。

应用背景:线性相关性在物理学和工程中广泛使用,例如在分析力、速度和方向是否独立时,判断向量的线性相关性是基本方法。

2. 向量组的秩与极大无关组

  • :向量组的秩是该向量组中线性无关向量的最大个数。
  • 极大无关组:在一个向量组中取出线性无关的子集,使该子集的向量个数达到最大,则该子集称为极大无关组。
  • 几何意义:向量组的秩反映了向量组在空间中张成的维数,即它们能够覆盖的空间范围。

例题

例 2:给定向量组 \(\mathbf{v}_1 = \begin{pmatrix} 1 \\ 1 \\ 0 \end{pmatrix}\)\(\mathbf{v}_2 = \begin{pmatrix} 0 \\ 1 \\ 1 \end{pmatrix}\)\(\mathbf{v}_3 = \begin{pmatrix} 1 \\ 2 \\ 1 \end{pmatrix}\),求其秩并找出极大无关组。

解答

  • 检查向量的线性相关性:若存在常数 \(c_1, c_2, c_3\) 使 \(c_1 \mathbf{v}_1 + c_2 \mathbf{v}_2 + c_3 \mathbf{v}_3 = 0\),解出 \(c_1 = 0\)\(c_2 = 1\)\(c_3 = -1\),所以 \(\mathbf{v}_3 = \mathbf{v}_1 + \mathbf{v}_2\),它是线性相关的。
  • 因此,向量组的秩为 \(2\),极大无关组可以选 \(\{\mathbf{v}_1, \mathbf{v}_2\}\)

应用背景:极大无关组在数据压缩和特征提取中非常重要,常用于找出空间的独立基向量,以最少向量描述系统特征。

二、线性方程组解的结构

线性方程组解的结构可以通过方程的系数矩阵和增广矩阵的秩来确定,从而判断解的唯一性或无穷多解的情况。

1. 解的唯一性

  • 当系数矩阵 \(A\) 的秩与增广矩阵 \([A|B]\) 的秩相等,并且等于未知数的个数 \(n\) 时,方程组有唯一解。
  • 几何意义:方程组唯一解意味着几何上所有方程表示的*面、直线等交于同一点。

例题

例 3:判断方程组

\[\begin{cases} x + y + z = 3 \\ 2x + 3y + z = 6 \\ x + 2y + 3z = 7 \end{cases} \]

是否有唯一解。

解答

  • 写出增广矩阵 \(\begin{pmatrix} 1 & 1 & 1 & | & 3 \\ 2 & 3 & 1 & | & 6 \\ 1 & 2 & 3 & | & 7 \end{pmatrix}\)
  • 通过行变换计算秩,发现系数矩阵和增广矩阵的秩均为 \(3\),等于未知数个数,因此方程组有唯一解。

应用背景:唯一解的方程组用于精确控制,如机器人控制系统中,必须确保位置和方向唯一确定。

2. 无穷多解的情况

  • 当系数矩阵 \(A\) 的秩与增广矩阵 \([A|B]\) 的秩相等,但小于未知数的个数 \(n\) 时,方程组有无穷多解。
  • 几何意义:无穷多解表示所有方程的交集形成一个空间的集合,例如*面或直线。

例题

例 4:判断方程组

\[\begin{cases} x + y + z = 2 \\ 2x + 2y + 2z = 4 \\ x - y = 0 \end{cases} \]

的解的情况。

解答

  • 写出增广矩阵 \(\begin{pmatrix} 1 & 1 & 1 & | & 2 \\ 2 & 2 & 2 & | & 4 \\ 1 & -1 & 0 & | & 0 \end{pmatrix}\)
  • 通过行变换化简后得到 \(\text{rank}(A) = 2\)\(\text{rank}(A|B) = 2\),小于未知数个数 \(n=3\),所以方程组有无穷多解。

应用背景:无穷多解的线性方程组常用于描述不确定性问题,如网络流量优化中存在多个满足条件的解。

3. 无解的情况

  • 当系数矩阵 \(A\) 的秩小于增广矩阵 \([A|B]\) 的秩时,方程组无解。
  • 几何意义:无解表示方程对应的几何对象互相*行或不相交。

例题

例 5:判断方程组

\[\begin{cases} x + y + z = 1 \\ x + y + z = 2 \\ x - y = 0 \end{cases} \]

是否有解。

解答

  • 增广矩阵为 \(\begin{pmatrix} 1 & 1 & 1 & | & 1 \\ 1 & 1 & 1 & | & 2 \\ 1 & -1 & 0 & | & 0 \end{pmatrix}\)
  • 通过行变换,系数矩阵的秩为 \(2\),增广矩阵的秩为 \(3\),不等,因此方程组无解。

应用背景:无解的线性方程组在物理上表示无法满足的条件,例如*行电极板之间的静电场中,电荷位置不符合边界条件。


3.特征值与特征向量

特征值和特征向量的定义与计算方法。
矩阵的对角化:相似对角化的条件与应用。
对称阵的性质:对称阵的特征值和正交相似对角化。

一、特征值与特征向量

特征值和特征向量是矩阵的基本特性,用于描述矩阵的变换性质,在物理学、工程学、机器学习等领域有广泛应用。

1. 特征值和特征向量的定义

  • 定义:给定 \(n \times n\) 矩阵 \(A\),若存在标量 \(\lambda\) 和非零向量 \(\mathbf{v}\),使得 \(A \mathbf{v} = \lambda \mathbf{v}\),则称 \(\lambda\) 为矩阵 \(A\) 的一个特征值,\(\mathbf{v}\) 为对应的特征向量。
  • 几何意义:特征向量是经过矩阵变换后方向不变的向量,特征值表示沿该方向的拉伸或压缩系数。

2. 特征值和特征向量的计算方法

  • 求解特征值需要解特征方程 \(\det(A - \lambda I) = 0\),这是一个关于 \(\lambda\) 的多项式方程。
  • 将特征值代入方程 \((A - \lambda I) \mathbf{v} = 0\),解出相应的特征向量。

例题

例 1:求矩阵 \(A = \begin{pmatrix} 4 & 1 \\ 2 & 3 \end{pmatrix}\) 的特征值和特征向量。

解答

  • 求特征值:设 \(A - \lambda I = \begin{pmatrix} 4 - \lambda & 1 \\ 2 & 3 - \lambda \end{pmatrix}\),则

    \[\det(A - \lambda I) = (4 - \lambda)(3 - \lambda) - 2 = \lambda^2 - 7\lambda + 10 = 0 \]

  • 解得 \(\lambda = 5\)\(\lambda = 2\)
  • 对应 \(\lambda = 5\) 时,解 \((A - 5I) \mathbf{v} = 0\) 得特征向量 \(\mathbf{v}_1 = \begin{pmatrix} 1 \\ 2 \end{pmatrix}\)
  • 对应 \(\lambda = 2\) 时,解 \((A - 2I) \mathbf{v} = 0\) 得特征向量 \(\mathbf{v}_2 = \begin{pmatrix} -1 \\ 1 \end{pmatrix}\)

应用背景:特征值和特征向量用于分析系统的稳定性,描述结构的固有频率,或在数据分析中找到数据的主方向。

二、矩阵的对角化

对角化是将矩阵转换为对角矩阵的过程,用于简化矩阵运算,例如高次幂计算。

1. 相似对角化的定义和条件

  • 定义:如果存在可逆矩阵 \(P\),使得 \(P^{-1}AP = D\),其中 \(D\) 为对角矩阵,则称矩阵 \(A\) 是可对角化的,且 \(A\)\(D\) 相似。
  • 条件:矩阵 \(A\) 可以相似对角化,当且仅当 \(A\)\(n\) 个线性无关的特征向量。
  • 几何意义:对角化将矩阵的变换分解到特征向量的方向上,每个方向的拉伸系数由对应的特征值决定。

2. 对角化过程

  • 通过计算特征值和特征向量,将特征向量构成的矩阵记为 \(P\),特征值构成的对角矩阵记为 \(D\),则有 \(A = PDP^{-1}\)

例题

例 2:对角化矩阵 \(A = \begin{pmatrix} 4 & 1 \\ 2 & 3 \end{pmatrix}\)

解答

  • 从前例中得到特征值 \(\lambda_1 = 5\)\(\lambda_2 = 2\),对应特征向量 \(\mathbf{v}_1 = \begin{pmatrix} 1 \\ 2 \end{pmatrix}\)\(\mathbf{v}_2 = \begin{pmatrix} -1 \\ 1 \end{pmatrix}\)
  • 构造矩阵 \(P = \begin{pmatrix} 1 & -1 \\ 2 & 1 \end{pmatrix}\) 和对角矩阵 \(D = \begin{pmatrix} 5 & 0 \\ 0 & 2 \end{pmatrix}\)
  • \(A = PDP^{-1}\),即 \(A\) 被相似对角化。

应用背景:对角化可用于简化矩阵的幂计算,如在动态系统中求状态的变化,或在数值计算中加速计算效率。

三、对称阵的性质

对称矩阵在多种应用中具备优越性,尤其是由于其具有正交相似对角化的性质。

1. 对称矩阵的定义

  • 定义:矩阵 \(A\) 满足 \(A^T = A\) 时,称 \(A\) 为对称矩阵。
  • 性质:对称矩阵的特征值为实数,且不同特征值对应的特征向量正交。

2. 对称矩阵的正交相似对角化

  • 对称矩阵 \(A\) 可以表示为 \(A = PDP^T\),其中 \(P\) 为正交矩阵(\(P^{-1} = P^T\)),\(D\) 为对角矩阵。
  • 几何意义:对称矩阵的变换不改变空间中向量之间的夹角和距离,常用于正交分解和数据降维中。

例题

例 3:对角化对称矩阵 \(A = \begin{pmatrix} 2 & 1 \\ 1 & 2 \end{pmatrix}\)

解答

  • 求特征值:\(\det(A - \lambda I) = \begin{vmatrix} 2 - \lambda & 1 \\ 1 & 2 - \lambda \end{vmatrix} = (\lambda - 1)(\lambda - 3) = 0\),解得 \(\lambda_1 = 3\)\(\lambda_2 = 1\)
  • 对应 \(\lambda = 3\),特征向量为 \(\mathbf{v}_1 = \begin{pmatrix} 1 \\ 1 \end{pmatrix}\)
  • 对应 \(\lambda = 1\),特征向量为 \(\mathbf{v}_2 = \begin{pmatrix} 1 \\ -1 \end{pmatrix}\)
  • 构造正交矩阵 \(P = \frac{1}{\sqrt{2}} \begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}\) 和对角矩阵 \(D = \begin{pmatrix} 3 & 0 \\ 0 & 1 \end{pmatrix}\),则有 \(A = PDP^T\)

应用背景:对称矩阵的正交对角化在主成分分析(PCA)中用于降维,在物理中用于描述对称系统的振动模式。


4.二次型

二次型的定义、表示和分类。
正定性判别法:配方法与特征值法判断二次型的正定性。

一、二次型的定义、表示和分类

二次型是关于多个变量的二次表达式,广泛应用于物理、统计和优化问题中,用于描述曲面形状和确定极值等。

1. 二次型的定义

  • 定义:对于 \(n\) 维变量 \(\mathbf{x} = \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}\),二次型是指形如 \(Q(\mathbf{x}) = \mathbf{x}^T A \mathbf{x}\) 的函数,其中 \(A\)\(n \times n\) 的对称矩阵。
  • 几何意义:二次型可以表示为 \(Q(\mathbf{x}) = \sum_{i=1}^n a_{ii} x_i^2 + \sum_{i < j} 2a_{ij} x_i x_j\),描述了变量之间的*方和交叉项。

2. 二次型的矩阵表示

  • 二次型 \(Q(\mathbf{x}) = \mathbf{x}^T A \mathbf{x}\) 的矩阵 \(A\) 称为二次型的系数矩阵,\(Q(\mathbf{x})\) 的性质完全由 \(A\) 的特性决定。

3. 二次型的分类

  • 根据二次型的正负性,分类如下:
    • 正定\(Q(\mathbf{x}) > 0\) 对任意非零 \(\mathbf{x}\) 成立。
    • 负定\(Q(\mathbf{x}) < 0\) 对任意非零 \(\mathbf{x}\) 成立。
    • 半正定\(Q(\mathbf{x}) \geq 0\) 对任意非零 \(\mathbf{x}\) 成立。
    • 半负定\(Q(\mathbf{x}) \leq 0\) 对任意非零 \(\mathbf{x}\) 成立。
    • 不定\(Q(\mathbf{x})\) 取正值和负值。

例题

例 1:对于二次型 \(Q(x, y) = 3x^2 + 4xy + y^2\),写出矩阵表示并判断类型。

解答

  • 将二次型写为矩阵形式:\(Q(x, y) = \begin{pmatrix} x & y \end{pmatrix} \begin{pmatrix} 3 & 2 \\ 2 & 1 \end{pmatrix} \begin{pmatrix} x \\ y \end{pmatrix}\)
  • 系数矩阵为 \(A = \begin{pmatrix} 3 & 2 \\ 2 & 1 \end{pmatrix}\)
  • 通过特征值法(见后续正定性判别)可判断 \(Q(x, y)\) 为正定型。

应用背景:二次型用于描述曲面,如椭球、双曲面等,其类型反映了表面的几何形状特征。

二、正定性判别法

正定性用于判断二次型在各方向上的符号特性,决定了其几何形状和极值性质。常用的正定性判别法包括配方法和特征值法。

1. 配方法

  • 步骤:配方法通过将二次型 \(Q(\mathbf{x})\) 化为*方和形式来判定正定性。若二次型能表示为正*方和,则为正定型。
  • 示例:设二次型 \(Q(x, y) = ax^2 + 2bxy + cy^2\),尝试配方为*方形式。

例题

例 2:判断二次型 \(Q(x, y) = 2x^2 + 4xy + 2y^2\) 是否正定。

解答

  • \(Q(x, y)\) 配方:\(Q(x, y) = 2(x^2 + 2xy + y^2) = 2(x + y)^2\)
  • 因为 \(Q(x, y) = 2(x + y)^2 \geq 0\),且对任意非零 \((x, y)\)\(Q(x, y) > 0\),所以 \(Q(x, y)\) 为正定型。

应用背景:配方法在低维二次型中应用广泛,可用于优化问题中判断最小值是否存在。

2. 特征值法

  • 步骤:将二次型 \(Q(\mathbf{x}) = \mathbf{x}^T A \mathbf{x}\) 的系数矩阵 \(A\) 求出特征值:
    • \(A\) 的所有特征值为正,则 \(Q(\mathbf{x})\) 为正定;
    • 若所有特征值为负,则 \(Q(\mathbf{x})\) 为负定;
    • 若特征值有正有负,则 \(Q(\mathbf{x})\) 为不定。
  • 几何意义:特征值表示二次型在特征向量方向上的拉伸或压缩程度,决定了二次型的正负性。

例题

例 3:判断二次型 \(Q(x, y) = 3x^2 + 4xy + y^2\) 是否正定。

解答

  • 系数矩阵为 \(A = \begin{pmatrix} 3 & 2 \\ 2 & 1 \end{pmatrix}\)
  • 计算特征值:特征方程 \(\det(A - \lambda I) = \begin{vmatrix} 3 - \lambda & 2 \\ 2 & 1 - \lambda \end{vmatrix} = \lambda^2 - 4\lambda + 1 = 0\)
  • 解得特征值 \(\lambda_1 = 3 + 2\sqrt{2}\)\(\lambda_2 = 3 - 2\sqrt{2}\),均为正值。
  • 因此,\(Q(x, y)\) 为正定型。

应用背景:特征值法适用于高维二次型的正定性判别,在多元统计分析和机器学习中的判别分析和主成分分析(PCA)中用于寻找数据的“主方向”。


概率论与数理统计

1.概率空间与随机变量

概率的基本概念:样本空间、事件与概率的性质。
条件概率与独立事件:全概率公式、贝叶斯公式。

一、概率空间与随机变量

概率空间和随机变量是概率论的基础概念,用于描述不确定性事件的结构和随机现象的结果。

1. 概率空间的基本概念

  • 样本空间:样本空间(Sample Space)是所有可能结果的集合,记作 \(\Omega\),其中每个结果称为样本点。
  • 事件:事件是样本空间的一个子集,表示我们关心的结果集合。常用字母 \(A, B, C\) 表示事件。
  • 概率的定义:概率是描述事件发生可能性的数值,满足以下性质:
    • 非负性:对任意事件 \(A\),有 \(P(A) \geq 0\)
    • 完备性:样本空间的概率为 1,即 \(P(\Omega) = 1\)
    • 可加性:对于互斥事件 \(A\)\(B\),有 \(P(A \cup B) = P(A) + P(B)\)

例题

例 1:假设投掷一颗公*的骰子,定义事件 \(A\) 表示“掷出的点数为偶数”,事件 \(B\) 表示“掷出的点数大于 4”。求 \(P(A)\)\(P(B)\)\(P(A \cap B)\)

解答

  • 样本空间为 \(\Omega = \{1, 2, 3, 4, 5, 6\}\),每个样本点的概率为 \(\frac{1}{6}\)
  • 事件 \(A = \{2, 4, 6\}\),所以 \(P(A) = \frac{3}{6} = \frac{1}{2}\)
  • 事件 \(B = \{5, 6\}\),所以 \(P(B) = \frac{2}{6} = \frac{1}{3}\)
  • 事件 \(A \cap B = \{6\}\),所以 \(P(A \cap B) = \frac{1}{6}\)

应用背景:概率空间概念用于所有不确定性分析,如统计推断、金融风险评估和机器学习中的事件建模。

二、条件概率与独立事件

条件概率描述了在某一事件已发生的前提下,另一事件发生的概率,广泛应用于风险评估、信号处理和贝叶斯分析中。

1. 条件概率

  • 定义:事件 \(A\) 在事件 \(B\) 已发生的条件下发生的概率,称为 \(A\) 的条件概率,记作 \(P(A|B)\),定义为

    \[P(A|B) = \frac{P(A \cap B)}{P(B)}, \quad P(B) > 0 \]

  • 几何意义:条件概率可以理解为在减少的样本空间 \(B\) 中,事件 \(A\) 的发生概率。

2. 独立事件

  • 定义:若 \(P(A \cap B) = P(A)P(B)\),则称事件 \(A\)\(B\) 独立,表示 \(A\) 的发生不影响 \(B\) 的发生。
  • 性质:若 \(A\)\(B\) 独立,则 \(P(A|B) = P(A)\)\(P(B|A) = P(B)\)

例题

例 2:假设从一副完整扑克牌中随机抽取两张,定义事件 \(A\) 表示“第一张是黑桃”,事件 \(B\) 表示“第二张是红心”。判断 \(A\)\(B\) 是否独立。

解答

  • 样本空间为 52 张牌,\(P(A) = \frac{13}{52} = \frac{1}{4}\)\(P(B) = \frac{13}{52} = \frac{1}{4}\)
  • 事件 \(A \cap B\) 表示“第一张是黑桃,第二张是红心”,共有 \(13 \times 13 = 169\) 种组合,故 \(P(A \cap B) = \frac{169}{52 \times 51} = \frac{13}{204}\)
  • \(P(A)P(B) = \frac{1}{4} \times \frac{1}{4} = \frac{1}{16}\),显然 \(P(A \cap B) \neq P(A)P(B)\),因此 \(A\)\(B\) 不独立。

应用背景:独立性在概率论中广泛使用,尤其在实验和决策分析中判断事件是否相互影响。

三、全概率公式和贝叶斯公式

全概率公式和贝叶斯公式是条件概率的重要工具,广泛应用于统计推断、机器学习和医学诊断中。

1. 全概率公式

  • 定义:设事件 \(B_1, B_2, \dots, B_n\) 构成样本空间的一个完备划分(即 \(B_i\) 两两互斥且 \(\bigcup_{i=1}^n B_i = \Omega\)),则对任意事件 \(A\),有

    \[P(A) = \sum_{i=1}^n P(A|B_i)P(B_i) \]

  • 几何意义:全概率公式将复杂事件的概率分解为几个更简单的条件概率的和。

例题

例 3:某公司有三种机器生产产品,生产量分别占总量的 30%、50% 和 20%,次品率分别为 1%、2% 和 5%。问随机抽到的产品是次品的概率。

解答

  • \(A\) 表示“次品”事件,\(B_1, B_2, B_3\) 表示由三种机器生产的事件。
  • 根据全概率公式:

    \[P(A) = P(A|B_1)P(B_1) + P(A|B_2)P(B_2) + P(A|B_3)P(B_3) \]

    \[= 0.01 \times 0.3 + 0.02 \times 0.5 + 0.05 \times 0.2 = 0.003 + 0.01 + 0.01 = 0.023 \]

  • 因此,抽到的产品为次品的概率为 2.3%。

应用背景:全概率公式用于复杂事件的概率计算,如保险业的风险评估或营销中客户购买行为的分解分析。

2. 贝叶斯公式

  • 定义:贝叶斯公式用于计算在已知后验条件下,事件发生的先验概率。若 \(B_1, B_2, \dots, B_n\) 构成样本空间的一个完备划分,则有

    \[P(B_i|A) = \frac{P(A|B_i) P(B_i)}{P(A)} \]

  • 几何意义:贝叶斯公式提供了更新事件概率的方法,用于在观测到新信息后调整概率。

例题

例 4:延续例 3,若抽到一件次品,求其来自第三种机器的概率。

解答

  • \(B_3\) 表示“产品来自第三种机器”,\(A\) 表示“抽到的是次品”。
  • 根据贝叶斯公式:

    \[P(B_3|A) = \frac{P(A|B_3)P(B_3)}{P(A)} \]

  • 由前面的计算,\(P(A) = 0.023\),且 \(P(A|B_3) = 0.05\)\(P(B_3) = 0.2\)

    \[P(B_3|A) = \frac{0.05 \times 0.2}{0.023} \approx 0.4348 \]

  • 因此,抽到的次品来自第三种机器的概率约为 43.48%。

应用背景:贝叶斯公式用于更新概率,如医学诊断中的病情判断、机器学习中的分类模型和金融分析中的风险调整。


2.期望与方差

数学期望的定义与性质:期望的线性性质。
方差:理解方差的定义及离散程度的衡量。
协方差和相关系数:协方差的性质及其应用。

一、数学期望的定义与性质

数学期望是随机变量的*均值或期望值,表示随机变量在大量试验中的*均结果。

1. 数学期望的定义

  • 定义:若 \(X\) 是一个离散随机变量,取值为 \(x_1, x_2, \dots, x_n\),概率分别为 \(p_1, p_2, \dots, p_n\),则 \(X\) 的数学期望 \(E(X)\) 定义为

    \[E(X) = \sum_{i=1}^n x_i p_i \]

    \(X\) 是连续随机变量,其概率密度函数为 \(f(x)\),则数学期望为

    \[E(X) = \int_{-\infty}^{+\infty} x f(x) \, dx \]

  • 几何意义:数学期望表示随机变量的“重心”,在概率分布中的*均值位置。

2. 期望的线性性质

  • 线性性质:对任意随机变量 \(X\)\(Y\),常数 \(a\)\(b\),有

    \[E(aX + bY) = aE(X) + bE(Y) \]

  • 应用背景:线性性质在金融中用于组合资产的期望收益,在概率论中用于计算期望的简化。

例题

例 1:设随机变量 \(X\) 表示抛掷一枚均匀骰子得到的点数,求 \(E(X)\)

解答

  • \(X\) 可能取值为 \(1, 2, 3, 4, 5, 6\),每个取值的概率均为 \(\frac{1}{6}\)

    \[E(X) = \sum_{i=1}^6 i \cdot \frac{1}{6} = \frac{1 + 2 + 3 + 4 + 5 + 6}{6} = \frac{21}{6} = 3.5 \]

  • 因此,抛掷一枚均匀骰子的期望点数为 3.5。

应用背景:数学期望在概率和统计中广泛应用,如预测值、长期*均收益和决策中的期望值计算。

二、方差

方差用于衡量随机变量的离散程度,表示数据相对期望值的偏离程度。

1. 方差的定义

  • 定义:设随机变量 \(X\) 的数学期望为 \(E(X)\),则 \(X\) 的方差 \(Var(X)\) 定义为

    \[Var(X) = E[(X - E(X))^2] \]

    对于离散随机变量 \(X\),其方差为

    \[Var(X) = \sum_{i=1}^n (x_i - E(X))^2 p_i \]

    对于连续随机变量 \(X\),其方差为

    \[Var(X) = \int_{-\infty}^{+\infty} (x - E(X))^2 f(x) \, dx \]

  • 几何意义:方差表示数据分布的“广度”,方差越大,数据离散程度越大。

2. 方差的性质

  • \(Y = aX + b\),则 \(Var(Y) = a^2 Var(X)\),即方差不受*移影响,但受缩放影响。

例题

例 2:设 \(X\) 表示抛掷一枚均匀骰子的点数,求 \(X\) 的方差 \(Var(X)\)

解答

  • 已知 \(E(X) = 3.5\)

    \[Var(X) = \sum_{i=1}^6 (x_i - 3.5)^2 \cdot \frac{1}{6} \]

    计算各项 \((x_i - 3.5)^2\) 并求和得到

    \[Var(X) = \frac{(1 - 3.5)^2 + (2 - 3.5)^2 + (3 - 3.5)^2 + (4 - 3.5)^2 + (5 - 3.5)^2 + (6 - 3.5)^2}{6} = \frac{35}{12} \approx 2.92 \]

应用背景:方差在金融和数据分析中用于风险测度,在统计学中用于分析数据的波动性和稳定性。

三、协方差和相关系数

协方差和相关系数用于衡量两个随机变量之间的线性关系。

1. 协方差的定义

  • 定义:若随机变量 \(X\)\(Y\) 的数学期望分别为 \(E(X)\)\(E(Y)\),则 \(X\)\(Y\) 的协方差 \(Cov(X, Y)\) 定义为

    \[Cov(X, Y) = E[(X - E(X))(Y - E(Y))] \]

    对于离散随机变量 \(X\)\(Y\),协方差为

    \[Cov(X, Y) = \sum_{i=1}^n \sum_{j=1}^m (x_i - E(X))(y_j - E(Y)) P(X = x_i, Y = y_j) \]

  • 几何意义:协方差表示两个变量的联合变动方向,协方差为正表示正相关,为负表示负相关,为零表示无关。

2. 协方差的性质

  • \(X\)\(Y\) 独立,则 \(Cov(X, Y) = 0\)

3. 相关系数的定义

  • 定义:相关系数 \(\rho_{X,Y}\) 用于标准化协方差,取值范围在 \([-1, 1]\) 之间,定义为

    \[\rho_{X,Y} = \frac{Cov(X, Y)}{\sqrt{Var(X) Var(Y)}} \]

  • 性质:相关系数为 1 表示完全正相关,为 -1 表示完全负相关,为 0 表示不相关。

例题

例 3:设 \(X\)\(Y\) 为两个离散随机变量,其取值及联合分布概率如下,求 \(Cov(X, Y)\)\(\rho_{X,Y}\)

(X, Y) P
(1, 1) (0.2)
(1, 2) (0.3)
(2, 1) (0.1)
(2, 2) (0.4)

解答

  • 计算 \(E(X)\)\(E(Y)\)

    \[E(X) = 1 \cdot (0.2 + 0.3) + 2 \cdot (0.1 + 0.4) = 1.7 \]

    \[E(Y) = 1 \cdot (0.2 + 0.1) + 2 \cdot (0.3 + 0.4) = 1.8 \]

  • 计算 \(E(XY)\)

    \[E(XY) = 1 \cdot 1 \cdot 0.2 + 1 \cdot 2 \cdot 0.3 + 2 \cdot 1 \cdot 0.1 + 2 \cdot 2 \cdot 0.4 = 2.8 \]

  • 计算协方差 \(Cov(X, Y)\)

    \[Cov(X, Y) = E(XY) - E(X)E(Y) = 2.8 - (1.7)(1.8) = 0.76 \]

  • 计算 \(Var(X)\)\(Var(Y)\)

    \[Var(X) = E(X^2) - [E(X)]^2 = (1^2 \cdot (0.2 + 0.3) + 2^2 \cdot (0.1 + 0.4)) - (1.7)^2 = 0.41 \]

    \[Var(Y) = E(Y^2) - [E(Y)]^2 = (1^2 \cdot (0.2 + 0.1) + 2^2 \cdot (0.3 + 0.4)) - (1.8)^2 = 0.36 \]

  • 计算相关系数 \(\rho_{X,Y}\)

    \[\rho_{X,Y} = \frac{Cov(X, Y)}{\sqrt{Var(X) Var(Y)}} = \frac{0.76}{\sqrt{0.41 \times 0.36}} \approx 1.26 $ \]

应用背景:协方差和相关系数用于金融学中描述资产收益的关系,机器学习中用于特征之间的相似性衡量,在物理学中用于分析实验数据的关联程度。


3.随机向量与分布

随机向量及其分布:二维随机变量的联合分布、边缘分布和条件分布。
正态分布:多维正态分布的性质与应用。

一、随机向量及其分布

随机向量表示多个随机变量的集合,用于描述多维随机现象中的联合变化情况。

1. 二维随机变量的联合分布

  • 定义:设 \((X, Y)\) 是一个二维随机变量,其联合分布函数 \(F_{X,Y}(x, y)\) 表示 \(X \leq x\)\(Y \leq y\) 的概率:

    \[F_{X,Y}(x, y) = P(X \leq x, Y \leq y) \]

    对于离散变量,联合分布表示为概率 \(P(X = x_i, Y = y_j)\) 的表格形式;对于连续变量,用联合概率密度函数 \(f_{X,Y}(x, y)\) 表示:

    \[P(X \in A, Y \in B) = \iint_{A \times B} f_{X,Y}(x, y) \, dx \, dy \]

2. 边缘分布

  • 边缘分布描述单个随机变量的分布,通过联合分布对另一个变量积分或求和得到。
    • 对于连续变量,\(X\) 的边缘分布为

      \[f_X(x) = \int_{-\infty}^{+\infty} f_{X,Y}(x, y) \, dy \]

    • 对于离散变量,\(X\) 的边缘概率为

      \[P(X = x_i) = \sum_j P(X = x_i, Y = y_j) \]

3. 条件分布

  • 条件分布描述在已知 \(Y = y\) 条件下 \(X\) 的分布。对连续变量,条件密度函数为

    \[f_{X|Y}(x|y) = \frac{f_{X,Y}(x, y)}{f_Y(y)}, \quad f_Y(y) > 0 \]

  • 几何意义:条件分布表示在特定条件下另一随机变量的分布变化情况。

例题

例 1:设 \((X, Y)\) 是二维离散随机变量,其联合分布如下,求 \(X\) 的边缘分布和 \(X\)\(Y = 2\) 条件下的条件分布。

(X, Y) P
(1, 1) 0.1
(1, 2) 0.2
(2, 1) 0.3
(2, 2) 0.4

解答

  • \(X\) 的边缘分布为

    \[P(X = 1) = 0.1 + 0.2 = 0.3, \quad P(X = 2) = 0.3 + 0.4 = 0.7 \]

  • 条件分布 \(P(X = x | Y = 2)\)

    \[P(X = 1 | Y = 2) = \frac{P(X = 1, Y = 2)}{P(Y = 2)} = \frac{0.2}{0.6} = \frac{1}{3} \]

    \[P(X = 2 | Y = 2) = \frac{P(X = 2, Y = 2)}{P(Y = 2)} = \frac{0.4}{0.6} = \frac{2}{3} \]

应用背景:联合、边缘和条件分布广泛用于统计学和机器学习中,如多特征数据的分布建模和概率推断。

二、正态分布

正态分布是最常用的概率分布之一,描述数据在*均值附*呈对称分布的情况,广泛应用于自然现象和误差分析。

1. 多维正态分布的定义

  • 定义:设 \(\mathbf{X} = (X_1, X_2, \dots, X_n)^T\)\(n\) 维随机向量。若存在均值向量 \(\boldsymbol{\mu}\) 和协方差矩阵 \(\Sigma\),使得 \(\mathbf{X}\) 的联合概率密度函数为

    \[f(\mathbf{X}) = \frac{1}{(2\pi)^{n/2} |\Sigma|^{1/2}} \exp\left( -\frac{1}{2} (\mathbf{X} - \boldsymbol{\mu})^T \Sigma^{-1} (\mathbf{X} - \boldsymbol{\mu}) \right) \]

    则称 \(\mathbf{X}\) 服从 \(n\) 维正态分布,记为 \(\mathbf{X} \sim N(\boldsymbol{\mu}, \Sigma)\)
  • 几何意义:多维正态分布的密度函数在高维空间中呈现椭球形分布,协方差矩阵 \(\Sigma\) 决定了椭球的形状和方向。

2. 多维正态分布的性质

  • 边缘分布:多维正态分布的任一子集变量也服从正态分布。
  • 线性变换:若 \(\mathbf{X} \sim N(\boldsymbol{\mu}, \Sigma)\),则对任意矩阵 \(A\) 和向量 \(\mathbf{b}\)\(A \mathbf{X} + \mathbf{b}\) 服从正态分布。
  • 独立性:对于二元正态分布,若 \(X\)\(Y\) 不相关,则它们相互独立。

例题

例 2:设 \(\mathbf{X} = (X, Y)^T \sim N\left( \begin{pmatrix} 0 \\ 0 \end{pmatrix}, \begin{pmatrix} 1 & 0.5 \\ 0.5 & 1 \end{pmatrix} \right)\)。求 \(X\)\(Y\) 的边缘分布及 \(X\)\(Y = 1\) 条件下的条件分布。

解答

  • 边缘分布:因为 \(\mathbf{X}\) 的协方差矩阵 \(\Sigma = \begin{pmatrix} 1 & 0.5 \\ 0.5 & 1 \end{pmatrix}\),因此 \(X \sim N(0, 1)\)\(Y \sim N(0, 1)\)

  • 条件分布:对于二维正态分布,\(X\)\(Y = y\) 条件下的分布为正态分布,其均值和方差分别为

    \[E(X | Y = y) = E(X) + \frac{\text{Cov}(X, Y)}{Var(Y)} (y - E(Y)) = 0 + 0.5 \cdot y = 0.5 y \]

    \[Var(X | Y = y) = Var(X) - \frac{\text{Cov}(X, Y)^2}{Var(Y)} = 1 - \frac{0.5^2}{1} = 0.75 \]

    因此,\(X | Y = 1 \sim N(0.5, 0.75)\)

应用背景:多维正态分布用于金融资产组合分析、信号处理中的噪声建模,以及机器学习中的特征相关性分析。


4.收敛与特征函数

随机变量的收敛:依概率收敛、几乎必然收敛、依分布收敛的概念。
特征函数:特征函数定义及在大数定律和中心极限定理中的应用。

一、随机变量的收敛

随机变量的收敛描述了一列随机变量在某种意义上趋*于某个随机变量的过程。常见的收敛方式包括依概率收敛、几乎必然收敛和依分布收敛。

1. 依概率收敛

  • 定义:设 \(\{X_n\}\) 是一列随机变量,若对于任意的 \(\epsilon > 0\),都有

    \[\lim_{n \to \infty} P(|X_n - X| < \epsilon) = 1 \]

    则称 \(\{X_n\}\) 依概率收敛于随机变量 \(X\),记作 \(X_n \xrightarrow{P} X\)
  • 几何意义:依概率收敛表示当 \(n\) 足够大时,\(X_n\)\(X\) 的值在概率上相距非常小。

2. 几乎必然收敛

  • 定义:若对任意的 \(\epsilon > 0\),有

    \[P\left( \lim_{n \to \infty} |X_n - X| < \epsilon \right) = 1 \]

    则称 \(\{X_n\}\) 几乎必然收敛于 \(X\),记作 \(X_n \xrightarrow{a.s.} X\)
  • 几何意义:几乎必然收敛表示随着 \(n \to \infty\)\(X_n\) 趋向于 \(X\) 的事件几乎肯定发生。

3. 依分布收敛

  • 定义:若随机变量序列 \(\{X_n\}\) 的分布函数 \(F_{X_n}(x)\) 收敛于随机变量 \(X\) 的分布函数 \(F_X(x)\),即对所有连续点 \(x\)

    \[\lim_{n \to \infty} F_{X_n}(x) = F_X(x) \]

    则称 \(X_n\) 依分布收敛于 \(X\),记作 \(X_n \xrightarrow{d} X\)
  • 几何意义:依分布收敛表示随机变量的分布渐进地接*于目标分布。

例题

例 1:设 \(X_n = \frac{1}{n}\),讨论 \(\{X_n\}\) 收敛于 0 的情况。

解答

  • 依概率收敛:对于任意 \(\epsilon > 0\),有 \(P(|X_n - 0| < \epsilon) = 1\),当 \(n \to \infty\) 时满足依概率收敛。
  • 几乎必然收敛:因为 \(X_n = \frac{1}{n} \to 0\) 几乎必然发生,所以满足几乎必然收敛。
  • 依分布收敛:因为 \(X_n\) 的分布趋向于常数 0 的分布,因此 \(X_n \xrightarrow{d} 0\)

应用背景:随机变量的收敛概念在统计学、概率论和经济学中广泛应用,用于描述随机过程的渐进行为。

二、特征函数

特征函数是随机变量分布的傅里叶变换,用于刻画随机变量的分布性质,在大数定律和中心极限定理中起到关键作用。

1. 特征函数的定义

  • 定义:设随机变量 \(X\) 的特征函数为 \(\varphi_X(t)\),定义为

    \[\varphi_X(t) = E(e^{itX}) = \int_{-\infty}^{+\infty} e^{itx} f_X(x) \, dx \]

    其中 \(t\) 为实数,\(i\) 为虚数单位,\(f_X(x)\)\(X\) 的概率密度函数。
  • 几何意义:特征函数通过 \(X\) 的值变化产生的相位变化来描述 \(X\) 的分布。特征函数包含了分布的所有信息,能够唯一确定分布。

2. 特征函数的性质

  • \(X\)\(Y\) 相互独立,则 \(X+Y\) 的特征函数为 \(\varphi_{X+Y}(t) = \varphi_X(t) \cdot \varphi_Y(t)\)
  • 对于常数 \(a\)\(b\),有 \(\varphi_{aX + b}(t) = e^{itb} \varphi_X(at)\)

3. 特征函数在大数定律和中心极限定理中的应用

  • 大数定律:特征函数用于证明大数定律,即在大量样本中,样本*均值收敛于总体均值。
  • 中心极限定理:特征函数的引理用于证明中心极限定理。若 \(\{X_i\}\) 是独立同分布的随机变量,则其均值的分布在标准化后逐渐趋于正态分布。

例题

例 2:设随机变量 \(X\) 服从均值为 0、方差为 \(\sigma^2\) 的正态分布 \(N(0, \sigma^2)\),求 \(X\) 的特征函数。

解答

  • 由于 \(X \sim N(0, \sigma^2)\),其概率密度函数为

    \[f_X(x) = \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{x^2}{2\sigma^2}} \]

  • 计算特征函数 \(\varphi_X(t) = E(e^{itX})\)

    \[\varphi_X(t) = \int_{-\infty}^{+\infty} e^{itx} \frac{1}{\sqrt{2 \pi \sigma^2}} e^{-\frac{x^2}{2\sigma^2}} \, dx \]

    \[= e^{-\frac{\sigma^2 t^2}{2}} \]

  • 因此,\(X\) 的特征函数为 \(\varphi_X(t) = e^{-\frac{\sigma^2 t^2}{2}}\)

应用背景:特征函数用于分析随机变量的分布特性,在信号处理、金融工程和机器学习中的特征分析和数据建模中发挥重要作用。


5.估计与置信区间

参数估计:点估计的无偏性、有效性及相合性。
最大似然估计和矩估计:理解MLE方法及其求解。
置信区间:枢轴量法和常用分布的置信区间构造。

一、参数估计

参数估计是通过样本数据推断总体参数值的过程,分为点估计和区间估计两种方法。点估计关注一个具体数值的估计,而区间估计提供包含参数的可能范围。

1. 点估计的无偏性

  • 定义:设 \(\hat{\theta}\) 是参数 \(\theta\) 的估计量,若 \(E(\hat{\theta}) = \theta\),则称 \(\hat{\theta}\) 是无偏估计量。
  • 几何意义:无偏性表示估计量在重复抽样下的*均值等于总体参数值,估计过程不偏向于高估或低估。

2. 点估计的有效性

  • 定义:在所有无偏估计量中,若 \(\hat{\theta}\) 的方差最小,则称 \(\hat{\theta}\) 是最有效估计量。
  • 几何意义:有效性表示估计量不仅无偏,还具有较小的波动性,是在无偏估计中波动最小的估计量。

3. 点估计的相合性

  • 定义:若当样本量 \(n \to \infty\) 时,估计量 \(\hat{\theta}\) 以概率趋*于参数 \(\theta\),即 \(P(|\hat{\theta} - \theta| < \epsilon) \to 1\),则称 \(\hat{\theta}\) 是相合估计量。
  • 几何意义:相合性表示估计量在样本量增大时会逐渐逼*真实参数值。

例题

例 1:设 \(X_1, X_2, \dots, X_n\) 是来自总体均值为 \(\mu\) 的样本,样本均值 \(\bar{X}\) 是否是 \(\mu\) 的无偏、有效和相合估计?

解答

  • 无偏性\(E(\bar{X}) = E\left(\frac{1}{n} \sum_{i=1}^n X_i\right) = \mu\),因此 \(\bar{X}\) 是无偏估计量。
  • 有效性:样本均值 \(\bar{X}\) 在所有均值的无偏估计中具有最小方差,因此是有效估计量。
  • 相合性:根据大数定律,\(\bar{X} \xrightarrow{P} \mu\),即 \(\bar{X}\)\(\mu\) 的相合估计量。

应用背景:无偏、有效和相合估计量广泛应用于统计推断中,如均值、方差等参数的估计。有效性尤其重要,在同等信息下能更精确地反映参数特性。

二、最大似然估计和矩估计

最大似然估计(MLE)和矩估计是两种常用的参数估计方法,分别通过数据的可能性和样本矩来推断总体参数。

1. 最大似然估计(MLE)

  • 定义:设 \(X_1, X_2, \dots, X_n\) 是来自分布 \(f(x; \theta)\) 的样本,最大似然估计量 \(\hat{\theta}_{\text{MLE}}\) 使得似然函数 \(L(\theta) = \prod_{i=1}^n f(X_i; \theta)\) 取得最大值,即

    \[\hat{\theta}_{\text{MLE}} = \arg\max_{\theta} L(\theta) \]

  • 几何意义:MLE 是寻找参数使得观测数据的发生概率最大的估计方法。

2. 矩估计

  • 定义:设样本的 \(k\) 阶矩为 \(M_k = \frac{1}{n} \sum_{i=1}^n X_i^k\),总体 \(k\) 阶矩为 \(E(X^k) = \mu_k(\theta)\),矩估计通过方程 \(M_k = \mu_k(\theta)\) 求解参数的估计量 \(\hat{\theta}_{\text{MME}}\)
  • 几何意义:矩估计是基于样本矩与总体矩的相等关系来估计参数的。

例题

例 2:设 \(X_1, X_2, \dots, X_n\) 是来自均值为 \(\mu\),方差为 \(\sigma^2\) 的正态分布样本,求 \(\mu\)\(\sigma^2\) 的最大似然估计。

解答

  • 似然函数为

    \[L(\mu, \sigma^2) = \prod_{i=1}^n \frac{1}{\sqrt{2 \pi \sigma^2}} \exp\left(-\frac{(X_i - \mu)^2}{2\sigma^2}\right) \]

  • 取对数得到对数似然函数

    \[\ln L(\mu, \sigma^2) = -\frac{n}{2} \ln (2 \pi \sigma^2) - \frac{1}{2\sigma^2} \sum_{i=1}^n (X_i - \mu)^2 \]

  • \(\mu\)\(\sigma^2\) 求偏导数并令其为零,解得

    \[\hat{\mu}_{\text{MLE}} = \bar{X}, \quad \hat{\sigma}^2_{\text{MLE}} = \frac{1}{n} \sum_{i=1}^n (X_i - \bar{X})^2 \]

应用背景:最大似然估计在机器学习和数据分析中广泛使用,用于模型参数的拟合和优化;矩估计则常用于经济学和工程中作为简单估计方法。

三、置信区间

置信区间用于估计总体参数的范围,通过包含参数的概率提供估计的可靠性。常用的构造方法包括枢轴量法和常用分布的置信区间。

1. 枢轴量法

  • 定义:设随机变量 \(X\) 的观测值可以构造出含有参数 \(\theta\) 的枢轴量 \(Q(X, \theta)\),其分布不依赖于 \(\theta\)。则通过 \(Q(X, \theta)\) 的分布可构造 \(\theta\) 的置信区间。
  • 几何意义:枢轴量法将未知参数问题转化为已知分布问题,是置信区间构造的通用方法。

2. 常用分布的置信区间

  • 正态分布:若 \(X_1, X_2, \dots, X_n\) 是来自均值为 \(\mu\)、方差为 \(\sigma^2\) 的正态分布的样本,则均值 \(\mu\)\(100(1 - \alpha)\%\) 置信区间为

    \[\left( \bar{X} - z_{\alpha/2} \frac{\sigma}{\sqrt{n}}, \, \bar{X} + z_{\alpha/2} \frac{\sigma}{\sqrt{n}} \right) \]

    其中 \(z_{\alpha/2}\) 为标准正态分布的分位数。
  • 二项分布:对于二项分布参数 \(p\),其 \(100(1 - \alpha)\%\) 置信区间可由正态*似或精确方法构造。

例题

例 3:设从均值为 \(\mu\),方差为 4 的正态分布中抽取 25 个样本,样本均值为 \(\bar{X} = 10\)。求 \(\mu\) 的 95% 置信区间。

解答

  • 已知 \(\sigma = 2\),样本均值的标准误差为 \(\frac{\sigma}{\sqrt{n}} = \frac{2}{\sqrt{25}} = 0.4\)
  • 对于 95% 置信水*,\(z_{0.025} = 1.96\),故置信区间为

    \[\left( 10 - 1.96 \cdot 0.4, \, 10 + 1.96 \cdot 0.4 \right) = (9.216, 10.784) \]

应用背景:置信区间在统计推断中广泛应用,用于确定参数估计的可靠性,如产品质量控制、医学实验分析和金融市场预测。


6.样本分析与分布

次序统计量:样本极值与分位数的分布。
Q-Q图:样本分布的正态性检验。
充分统计量:因子分解定理与充分性判断。

一、次序统计量

次序统计量是指样本数据按照大小排序后的统计量,用于描述样本数据的极值和位置特征。

1. 样本极值

  • 定义:设 \(X_1, X_2, \dots, X_n\) 为样本数据,则样本的最小值和最大值分别记作 \(X_{(1)} = \min(X_1, \dots, X_n)\)\(X_{(n)} = \max(X_1, \dots, X_n)\),称为样本的极小值和极大值。
  • 分布:若 \(X_i\) 服从连续均匀分布 \(U(a, b)\),则 \(X_{(1)}\)\(X_{(n)}\) 的分布分别为

    \[f_{X_{(1)}}(x) = n \frac{(x - a)^{n-1}}{(b - a)^n}, \quad f_{X_{(n)}}(x) = n \frac{(b - x)^{n-1}}{(b - a)^n} \]

2. 分位数

  • 定义:样本的分位数是将数据按大小分成若干部分的数值,最常见的分位数包括中位数(50% 分位数)、四分位数(25% 和 75% 分位数)等。
  • 分布:对于正态分布样本,分位数的估计通常基于样本排序后的相应位置值。

例题

例 1:设 \(X_1, X_2, \dots, X_5\) 是来自均匀分布 \(U(0, 1)\) 的样本,求样本极小值 \(X_{(1)}\) 的概率密度函数。

解答

  • 对于均匀分布 \(U(0, 1)\),样本的极小值 \(X_{(1)}\) 的概率密度函数为

    \[f_{X_{(1)}}(x) = 5 (1 - x)^{4}, \quad 0 \leq x \leq 1 \]

应用背景:次序统计量广泛用于风险管理(如最大损失分析)、生物统计学中的寿命分析和可靠性工程中的故障率分析。

二、Q-Q图

Q-Q图(Quantile-Quantile Plot)是一种图形化方法,用于检验样本分布是否符合特定分布,通常用来检验正态性。

1. Q-Q图的构造

  • 步骤
    1. 将样本数据排序,得到次序统计量 \(X_{(1)}, X_{(2)}, \dots, X_{(n)}\)
    2. 计算标准正态分布的对应分位数 \(Z_{(1)}, Z_{(2)}, \dots, Z_{(n)}\)
    3. 绘制 \(X_{(i)}\) 对应 \(Z_{(i)}\) 的散点图。
  • 解释:如果样本来自正态分布,则点应接*一条直线;偏离直线则表明分布偏离正态。

例题

例 2:给出一个样本数据序列 \([2.1, 2.3, 2.5, 2.7, 2.9]\),构造其正态 Q-Q 图并解释结果。

解答

  • 将样本排序得到 \(X_{(1)} = 2.1, X_{(2)} = 2.3, X_{(3)} = 2.5, X_{(4)} = 2.7, X_{(5)} = 2.9\)
  • 计算对应标准正态分布的分位数,如 \(Z_{(i)} = \Phi^{-1}\left(\frac{i - 0.5}{n}\right)\)
  • 绘制 Q-Q 图后,观察是否呈现直线趋势。

应用背景:Q-Q图用于数据分析中的正态性检验,如检验变量的分布特性、残差分析中的正态性假设验证,及模型评估中分布假设的合理性。

三、充分统计量

充分统计量是关于样本信息的一个统计量,包含了总体参数的所有信息。

1. 充分统计量的定义

  • 定义:设 \(X_1, X_2, \dots, X_n\) 是来自分布 \(f(x|\theta)\) 的样本,统计量 \(T(X)\) 是参数 \(\theta\) 的充分统计量,若条件分布 \(f(x|T(X) = t, \theta)\) 不依赖于 \(\theta\)
  • 几何意义:充分统计量是样本的“摘要”,它包含了样本中关于总体参数的所有信息。

2. 因子分解定理

  • 定理:若 \(T(X)\)\(\theta\) 的充分统计量,则 \(f(x|\theta)\) 可以分解为

    \[f(x|\theta) = g(T(x), \theta) h(x) \]

    其中 \(g(T(x), \theta)\)\(\theta\) 有关,\(h(x)\)\(\theta\) 无关。
  • 几何意义:因子分解定理为充分统计量的判断提供了简便方法。

例题

例 3:设 \(X_1, X_2, \dots, X_n\) 为来自 \(Poisson(\lambda)\) 的样本,判断 \(\sum_{i=1}^n X_i\) 是否为 \(\lambda\) 的充分统计量。

解答

  • 样本的联合分布为

    \[f(x|\lambda) = \prod_{i=1}^n \frac{\lambda^{x_i} e^{-\lambda}}{x_i!} = \frac{\lambda^{\sum x_i} e^{-n\lambda}}{\prod x_i!} \]

    可以分解为 \(g(\sum x_i, \lambda) \cdot h(x)\) 的形式,因此 \(\sum_{i=1}^n X_i\)\(\lambda\) 的充分统计量。

应用背景:充分统计量用于简化统计推断过程,减少计算复杂度,广泛应用于参数估计和假设检验中。


Ref

cs 保研经验贴 | 综合面试题库
cs 保研经验贴丨数学试题·自动化所特供版
线性代数|等价、相似、合同

Math

非常注重基础概念的理解!!!

Linear Algebra

矩阵的秩?物理意义?
矩阵中线性无关的向量的个数
取子矩阵(方阵)行列式,最大的子矩阵维度,让行列式不等于0
行列式就是行列式中的行或列向量所构成的超*行多面体的有向面积或有向体积;
矩阵A的行列式detA就是线性变换A下的图形面积或体积的伸缩因子。

from 【04 数据操作 + 数据预处理【动手学深度学习v2】】 【精准空降到 07:26】

标量

  • 简单操作
    c=a+b
    c=a·b
    c=sina
  • 长度

\[| a + b | \leq | a | + | b | \]

\[| a \cdot b | = | a | \cdot | b | \]

向量

  • 简单操作

\[c = a + b w h e r e c _ { i } = a _ { i } + b _ { i } \]

\[c = \alpha \cdot b w h e r e c _ { i } = \alpha b _ { i } \]

\[c = \sin a w h e r e c _ { i } = \sin a _ { i } \]

  • 长度

\[| | a | | _ { 2 } = \left[ \sum _ { i = 1 } ^ { m } a _ { i } ^ { 2 } \right] ^ { \frac { 1 } { 2 } } \]

\[| | a | | \geq 0 for all a \]

\[| | a + b | | \leq | | a | | + | | b | | \]

\[| | a \cdot b | | = | a | \cdot | | b | | \]

  • 点乘

\[a ^ { T } b = \sum _ { i } a _ { i } b _ { i } \]

  • 正交

\[a ^ { T } b = \sum _ { i } a _ { i } b _ { i } = 0 \]

矩阵

  • 简单操作

Signal processing

1.向量和向量空间
信号表示:信号可表示为向量,如时间序列数据。
向量空间:信号集合构成的向量空间。
2.矩阵
系统表示:系统可用矩阵表示,如滤波器冲激响应。
卷积:卷积运算可用矩阵乘法表示。
3.线性变换
傅里叶变换:一种线性变换,可把信号从时域变换至频域。
离散余弦变换(DCT),离散小波变换(DWT):常用于压缩和降噪的线性变换
4.特征值和特征向量
主成分分析(PCA):信号降维和特征提取,基于协方差矩阵的特征值分解。
稳定性分析:特征值分析用于系统的稳定性和频率响应分析。
本征值(Eigenvalue)和本征向量(Eigenvector)是线性代数中描述线性变换特性的基础工具。 当我们说一个函数或算子的本征值时,我们实际上是在寻找那些在变换作用下不变的标量。
从数学的角度来看,函数本征值揭示了函数在变换中的稳定性和不变性。

本征值(eigenvalue)和特征值(characteristic value)是指在线性代数中与矩阵相关的两个概念,它们有一定的联系,但又有一些区别。
特征值是指在一个向量空间中,对于一个线性变换或矩阵,存在一个非零向量,使得该向量经过线性变换后只发生伸缩变化而不改变方向,这个伸缩因子就是特征值。换句话说,特征值是使得线性变换后的向量仍然保持在同一直线上的标量。
本征值与特征值是同一个概念的不同名称。在不同的数学和物理领域,这两个术语可能会被交替使用。例如,在物理学中,本征值通常用于描述量子力学中的特征值问题。
需要注意的是,一个矩阵可以有多个特征值和对应的特征向量。特征值可以是实数或复数,并且可以重复。而本征值则是特定领域中对特征值的命名。
总结来说,本征值和特征值描述了线性变换或矩阵对向量进行伸缩变换时的尺度因子,只是不同领域对同一个概念的不同称呼。

5.奇异值分解(SVD)
噪声去除:分解信号矩阵以去除噪声。
基本思想其实是用SVD分解信号矩阵,去掉小的奇异值对应的成分(它常是噪声)
(1)信号矩阵A
(2)SVD分解,\(A = U \Sigma V ^ { T }\),
\(U\)\(V\)是正交矩阵, \(\Sigma\)是对角矩阵,包含了奇异值。
(3)去除小奇异值:常认为小奇异值对应噪声,设为0后得到新矩阵\(\Sigma\)
(4)重构矩阵:用\(U,\Sigma ',V\)重构矩阵\(A'=U\Sigma ' V^{T}\),即为降噪后信号。
压缩:信号压缩与数据降维。
思想是保留最大奇异值及其对应的奇异向量。
(1)信号矩阵A
(2)SVD分解,\(A = U \Sigma V^{T}\)
(3)选前k个奇异值及其对应奇异向量,形成新矩阵\(\Sigma _k, U_k,V_k\)
(4)重构矩阵,用\(\Sigma _k, U_k,V_k\)重构矩阵\(A_k = U_k \Sigma _k V_k\)
重构矩阵\(A_k\)是原信号的低秩*似
(5)压缩信号:只保留k个奇异值及其对应奇异向量,减少存储和计算开销
傅里叶变换是一种解决问题的方法,一种工具,一种看待问题的角度。理解的关键是:一个连续的信号可以看作是一个个小信号的叠加,从时域叠加与从频域叠加都可以组成原来的信号,将信号这么分解后有助于处理。
卷积的意义:加权叠加。对于线性时不变系统,如果知道该系统的单位响应,那么将单位响应和输入信号求卷积,就相当于把输入信号的各个时间点的单位响应 加权叠加,就直接得到了输出信号。
6.正交和正交基
信号投影:将信号投影到正交基上,简化分析。
滤波器设计:用正交性设计最优滤波器。

Probality Theory and Mathematical Statistics

贝叶斯定理:通俗地讲就是当你不能确定某一个事件发生的概率时,你可以依靠与该事件本质属性相关的事件发生的概率去推测该事件发生的概率。
大数定律主要描述了当样本的数量足够多时,其均值 (频率)可以用来逼*总体的期望(概率)
中心极限定理则描述了在某些条件下,大量独立同分布的随机变量的和的分布逼*于正态分布。

Advanced Mathematics/Calculus

将问题化解为许多微小值的和,来获得一个*似的结果。
微积分的本质是通过将问题分解成许多小量的和的*似来解决问题。
数学分析最要紧的观念是说,一个对象可以表达为无穷多个合理选择的对象的线性和。

夏令营个人面经

英文自我介绍(2-3min)+英文提问(research interest, your opinion about embeded ai)

posted @ 2024-06-29 22:50  asandstar  阅读(22)  评论(0编辑  收藏  举报