摘要：
本文主要分机器学习和深度学习两部分介绍，介绍常用的优化算法。优化算法的重要性是不言而喻的，优化算法决定了损失函数的收敛速度，甚至是损失函数是否容易收敛，是否会收敛在最小值处（全局优化）。 机器学习优化算法 1、梯度下降法 梯度下降法可以说是机器学习中最常用的算法，当然在深度学习中也会使用。不过一般使 阅读全文
摘要：
降维是机器学习中很重要的一种思想。在机器学习中经常会碰到一些高维的数据集，而在高维数据情形下会出现数据样本稀疏，距离计算等困难，这类问题是所有机器学习方法共同面临的严重问题，称之为“ 维度灾难 ”。另外在高维特征中容易出现特征之间的线性相关，这也就意味着有的特征是冗余存在的。基于这些问题，降维思想就 阅读全文