摘要：
一. 随机事件与概率 1.1 随机现象 在自然界和人类活动中，发生的现象多种多样，比如下列这些现象： 1. 偶数能被2整除 2. 光的速度是常数 3. 一家门店一天之内的订单量 4. 一个新生儿可能是男生也可能是女生 5. AB实验存在对照组和实验组 6. 李华上厕所的时间 不难发现，其中①②⑤这类 阅读全文
摘要：
提升思想 一个概念如果存在一个多项式的学习算法能够学习它，并且正确率很高，那么，这个概率是强可学习的。一个概念如果存在一个多项式的学习算法能够学习它，并且学习的正确率仅比随机猜测略好，那么，这个概念是弱可学习的。强可学习与弱可学习是等价的。在学习中，如果已经发现了弱学习算法，那么是否能够将其提升为强 阅读全文
摘要：
聚类的定义 聚类就是对大量未知标注的数据集，按数据的内在相似性将数据集划分为多个类别，使类别内的数据相似度较大而类别间的数据相似度较小。聚类算法是无监督的算法。 常见的相似度计算方法 闵可夫斯基距离Minkowski/欧式距离 在上述的计算中，当p=1时，则是计算绝对值距离，通常叫做曼哈顿距离，当p 阅读全文
摘要：
极大似然估计 我们先从极大似然估计说起，来考虑这样的一个问题，在给定的一组样本x1,x2······xn中，已知它们来自于高斯分布N(u, σ)，那么我们来试试估计参数u，σ。 首先，对于参数估计的方法主要有矩估计和极大似然估计，我们采用极大似然估计，高斯分布的概率密度函数如下： 我们可以将x1，x 阅读全文
摘要：
常见的GAN网络的相关原理及推导 在上一篇中我们给大家介绍了GAN的相关原理和推导，GAN是VAE的后一半，再加上一个鉴别网络。这样而导致了完全不同的训练方式。 GAN，生成对抗网络，主要有两部分构成：生成器，判别器。 生成器网络的主要工作是负责生成样本数据，输入的是高斯白噪声z，输出的是样本数据向 阅读全文
摘要：
GAN的前身——VAE模型 今天跟大家说一说VAE模型相关的原理，首先我们从判别模型和生成模型定义开始说起： 判别式模型：已知观察变量X和隐含变量z，它对p(z|X)进行建模，它根据输入的观察变量X得到隐含变量z出现的可能性。 在图像模型中，比如根据原始图像推测图像具备的一些性质，例如根据数字图像推 阅读全文
摘要：
优化学习率的相关算法 在使用优化算法的时候，常常会涉及到一些学习率的优化，那么我们应该怎么优化学习率呢？ 调整学习率的策略： 1.在斜率(方向导数)大的地方，使用小的学习率 2.在斜率(方向导数)小的地方，使用大的学习率 下面我们通过梯度下降算法进行学习率的优化分析 在梯度下降中，设x[k]=a，那 阅读全文
摘要：
熵，条件熵，相对熵，互信息的相关定义及公式推导 熵是随机变量不确定性的度量，不确定性越大，熵值越大，若随机变量退化成定值，熵为0，均匀分布是最不确定的分布。熵其实定义了一个函数(概率分布函数)到一个值(信息熵)的映射。熵的定义公式如下： 在经典熵的定义中，底数是2，此时熵的单位是bit，若底数是e， 阅读全文
摘要：
仿射变换和透视变换 仿射变换是把一个二维坐标系转换到另一个二维坐标系的过程，转换过程坐标点的相对位置和属性不发生变换，是一个线性变换，该过程只发生旋转和平移过程。因此，一个平行四边形经过仿射变换后还是一个平行四边形。所以，仿射= 旋转 + 平移 透视变换是把一个图像投影到一个新的视平面的过程，该过程 阅读全文
摘要：
常见的图像变换操作 窗口视图变换 用户域：程序员用来定义草图的整个自然空间WD,它是一个实数域，理论上WD是连续无限的。 窗口区：用户指定的任一区域W,它是WD的子域，一般为矩形域。 屏幕域：设备输出图形的最大区域DC,它是有限的整数域， 如：如显示器有1600*1200个像素。 视图区：任何小于等 阅读全文