摘要： 向量 $y$ 对矩阵 $X_{m \times n}$ 求导有两种情况： 形状规则：向量 $y$ 对矩阵 $X$ 求导，分为两步： 1）向量 $y$ 的每个元素是标量，先做 $y$ 的每个元素对矩阵 $X$ 求导，这里按照标量对矩阵的求导规则进行。 2）第一步完成后，将求导结果按 $y$ 的形状排列 阅读全文

摘要： 设矩阵 $X$ 为 $$X = \begin{bmatrix}x_{11} & x_{12} & \cdots & x_{1n} \\ x_{21} & x_{22} & \cdots & x_{2n} \\ \vdots & \vdots & \cdots & \vdots \\ x_{m1} & 阅读全文

摘要： 张量求导规则 $\frac{\partial y}{\partial x}$ 1. 规则 $1$：形状规则 a. 只要 $y$ 或 $x$ 中有一个是标量，那么导数 $\frac{\partial y}{\partial x}$ 的形状和非标量的形状一致。 b. 如果 $y$ 和 $x$ 都是非标量 阅读全文

摘要： https://pytorch.org/docs/stable/index.html 阅读全文

摘要： 深度学习中的张量 Pytorch 中的张量 Tensor 就是一个多维矩阵，它是 torch.Tensor 类型的对象，比如二阶张量，在数学中就是一个方阵，在 Pytorch 中可以是任意形 状的矩阵。在 PyTorch 中，张量 Tensor 是最基础的运算单位，与 NumPy 中的 NDArra 阅读全文

摘要： Jupyter Notebook 也是一个 python 开发的 IDE，pycharm 也可以做 python 开发，但两款 IDE 有一些区别。 Jupyter Notebook 是一种模块化的 Python 编辑器，即在 Jupyter 中，你可以把大段的 Python 代码碎片化处理，分开每 阅读全文

摘要： 图形处理器($Graphics \; Processing \; Unit$，即 $GPU$)，又称显卡、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备上图 像运算工作的微处理器。它是一个硬件，是外部的设备，自然需要一套软件来让 $CPU$ 操作 $GPU$。这个软件程序就 阅读全文

摘要： 什么样的问题需要 $CRF$ 模型。这里举一个简单的例子： 假设我们有 $Bob$ 一天从早到晚的一系列照片，我们要猜这一系列的每张照片对应的活动，比如: 工作的照片，吃饭的照片，唱歌的照片等等。 一个比较直观的办法就是，我们找到 $Bob$ 之前的日常生活的一系列照片，然后问清楚这些照片代表的活动 阅读全文

摘要： 对于 $n$ 个正数 $a_{1},a_{2},...,a_{n}$，它们的算数平均不小于它们的几何平均，即 $$\frac{a_{1} + a_{2} + \cdots + a_{n}}{n} \geq \sqrt[n]{a_{1}a_{2}\cdots a_{n}}$$ 当且仅当 $a_{1} 阅读全文

摘要： 隐马尔科夫模型（Hidden Markov Model，简称HMM）是比较经典的机器学习模型，它在语言识别，自然语言处理，模式识别等领域得到广泛的应用。 随着目前深度学习的崛起，尤其是 RNN, LSTM 等神经网络序列模型的火热，HMM 的地位有所下降。但是作为一个经典的模型，学习 HMM 的模型 阅读全文