摘要：
目录 KTT介绍 KTT的理解 内容详解 一、KTT介绍： KKT条件是泛拉格朗日乘子法的一种形式；主要应用在当我们的优化函数存在不等值约束的情况下的一种最优化求解方式；KKT条件即满足不等式约束情况下的条件： 二、KTT的理解： 可行解必须在约束区域g(x)之内，由图可知可行解x只能在g(x)<0 阅读全文
摘要：
目录 香农信息量、信息熵、交叉熵 KL散度（Kullback–Leibler divergence） JS散度(Jensen-Shannon divergence ) Wasserstein距离 几种距离对比 GAN相关应用 一、香农信息量、信息熵、交叉熵 香农信息量 设p为随机变量X的概率分布，即 阅读全文
摘要：
目录 简述 简述 内容详解 密度聚类 层次聚类 总结 一、激活函数作用 激活函数的主要作用是提供网络的非线性建模能力。如果没有激活函数，那么该网络仅能够表达线性映射，此时即便有再多的隐藏层，其整个网络跟单层神经网络也是等价的。因此也可以认为，只有加入了激活函数之后，深度神经网络才具备了分层的非线性映 阅读全文
摘要：
目录 几个指标的解释FP,FN,TP,TN 精确率(Precision),召回率(Recall),准确率(Accuracy)和F值 RoC曲线和PR曲线 一: 几个指标的解释:FP,FN,TP,TN 刚接触这些评价指标时,感觉很难记忆FP,FN,TP,TN,主要还是要理解,理解后就容易记住了 P(P 阅读全文
摘要：
目录 最大似然估计(MLE) MLE求解过程 一、最大似然估计(MLE) MLE（Maximum Likelihood Estimation）就是利用已知的样本结果，反推最有可能(最大概率)导致这样结果的参数值的计算过程。直白来讲，就是给定了一定的数据，假定知道数据是从某种分布中随机抽取出来的，但是 阅读全文
摘要：
目录 回归损失函数 分类损失函数 其他 附件证明 机器学习最主要的操作为：模型，损失函数设计，优化问题求解。 损失函数是机器学习中常用于优化模型的目标函数，无论是在分类问题，还是回归问题，都是通过损失函数最小化来求得我们的学习模型的。损失函数分为经验风险损失函数和结构风险损失函数。经验风险损失函数是 阅读全文