机器学习 - 随笔分类 - 英飞

3 逻辑回归

摘要：逻辑回归逻辑回归是用来解决分类问题的分类问题二分类就是将两类物体分开多分类每次只分类出一类物体，有n个物体，则需要做n-1次二分类 sigmoid 函数选择sigmoid函数的原因线性回归的函数 ℎ 𝑥 = 𝑧 = 𝑤𝑇𝑥，范围是(−∞, +∞)。而分类预测结果需要得到[ 阅读全文

posted @ 2021-12-31 09:13 英飞阅读(74) 评论(0) 推荐(0) 编辑

朴素贝叶斯

摘要：朴素贝叶斯贝叶斯公式我们可以将

P (θ | X)

$P(\theta |X)$ 进行贝叶斯概率进行展开

P (θ | X) = \frac{P (X | θ)}{P (X)} \cdot P (θ) (2)

$P(\theta | X) = \frac{ P(X| \theta)}{ P(X)} \cdot P(\theta) \ \ \ (2)$ 上式中

P (θ | X)

$P (\theta|X)$ 称作后验概率，阅读全文

posted @ 2021-12-31 09:10 英飞阅读(121) 评论(0) 推荐(0) 编辑

知识扩展4——拉格朗日乘数，KKT条件，对偶问题

摘要：拉格朗日乘数法拉格朗日乘数法 KKT条件互补松弛条件的解释实例对偶问题 SVM的对偶问题求解阅读全文

posted @ 2021-11-20 21:15 英飞阅读(105) 评论(0) 推荐(0) 编辑

支持向量机 SVM

摘要：支持向量机 SVM 算法思想概述背景知识间隔最大化间隔定义 7.2 求解最大间隔方法1 转化为凸函数求解算法7.1 输入：线性可分训练数据集

T = {(x_{1}, y_{1}), (x_{2}, y_{2}), \dots, (x_{N}, y_{N})}

$T=\{(x_1,y_1),(x_2,y_2),\cdots ,(x_N,y_N)\}$ ,其中$x_i \in \mathcal{X}=R 阅读全文

posted @ 2021-11-20 21:11 英飞阅读(80) 评论(0) 推荐(0) 编辑

GAN 的后序

摘要：GAN 的后序参考资料网络博客令人拍案叫绝的Wasserstein GAN - 知乎 (zhihu.com) 生成式对抗网络GAN有哪些最新的发展，可以实际应用到哪些场景中？ - 知乎 (zhihu.com) 从动力学角度看优化算法：GAN的第三个阶段 - 知乎 (zhihu.com) 视频讲阅读全文

posted @ 2021-11-16 21:27 英飞阅读(28555) 评论(0) 推荐(0) 编辑

我在b站读研究生——跟着李沐读论文1 ——Gan

摘要：我在b站读研究生——跟着李沐读论文1 ——Gan 读论文标题+作者+时间+期刊+被引 generative adversarial Nets 生成对抗网络作者 Ian J.Goodfellow 深度学习（花书）的作者摘要 Abstract 我们推出了一个通过对抗过程来估计生成模型的新的结构，在阅读全文

posted @ 2021-11-16 21:18 英飞阅读(348) 评论(0) 推荐(0) 编辑

知识扩展3——广义线性模型GLM

摘要：广义线性模型GLM 判断标准非常简单，响应变量y独立则GLM，否则GLMM。这就是最本质的判断标准，其它的标准都是基于这个标准来的指数分布族概率密度为

f_{X} (x; θ) = h (x) e^{(η (θ) \cdot T (x) + A (θ))}

$f_X(x;\theta) = h(x) e^{ (\ \eta(\theta)\cdot T(x)+A(\theta)\ )}$ 其阅读全文

posted @ 2021-11-16 20:51 英飞阅读(569) 评论(0) 推荐(0) 编辑

知识扩展2——熵，KL散度，交叉熵，JS散度，Wasserstein 距离（EarthMover距离）

摘要：熵，KL散度，交叉熵，JS散度，Wasserstein 距离（EarthMover距离）信息量香农(Shannon)认为“信息是用来消除随机不确定性的东西”，也就是说衡量一个事件信息量大小就看这个信息消除事件不确定性的程度。从编码的角度设信源X可发出的消息符号集合为$A= { a_i | 阅读全文

posted @ 2021-11-16 17:02 英飞阅读(761) 评论(0) 推荐(0) 编辑

知识扩展1——最大似然估计

摘要：最大似然估计一基本知识 1 .1概率理解——贝叶斯派与频率派频率派：概率是一个确定的值，模型中的参数也是一个确定的值。样本数据是由确定的概率分布生成的，因此数据是随机的。多次重复试验，使用事件发生的频率近似代替概率。对于一个模型或者也可说一个分布中的参数，我们相信它是固定不变的，是固有的属阅读全文

posted @ 2021-11-16 16:50 英飞阅读(649) 评论(0) 推荐(0) 编辑

线性回归

摘要：线性回归符号约定：算法流程理解使用训练数据来找到线性回归方程中的参数

w_{0}, w_{1}, \dots, w_{n}

$w_0,w_1,\dots,w_n$ 使得回归方程的预测值和真实值的误差最小。这个误差可以使用平方衡量，也可以使用绝对值等方式衡量。寻找的过程可以直接解优化方程，也可以使用迭代法不断更新。求解目标函数：$ 阅读全文

posted @ 2021-11-01 09:48 英飞阅读(188) 评论(0) 推荐(1) 编辑

决策树机器学习，西瓜书p80 表4.2 使用信息增益生成决策树及后剪枝

摘要：决策树机器学习，西瓜书p80 表4.2 使用信息增益生成决策树及后剪枝阅读全文

posted @ 2021-11-01 09:41 英飞阅读(1184) 评论(0) 推荐(0) 编辑

模式识别第一章概论

摘要：模式识别(Pattern Recognition) 第一章概论概论模式识别(Pattern Recognition) 用计算机实现人对各种事物或现象的分析,描述,判断,识别。发展史 1929年 G. Tauschek发明阅读机，能够阅读0-9的数字。 30年代 Fisher提出统计分类理论阅读全文

posted @ 2020-09-07 21:08 英飞阅读(962) 评论(0) 推荐(0) 编辑

英飞

卧龙岗闲散人

随笔分类 - 机器学习

公告

搜索

常用链接

最新随笔

我的标签

积分与排名

合集 (2)

随笔分类 (258)

随笔档案 (124)

阅读排行榜

评论排行榜

推荐排行榜

最新评论