摘要：
梯度下降在【机器学习基础】中已经总结了，而在深度学习中，由于模型更加复杂，梯度的求解难度更大，这里对在深度学习中的梯度计算方法进行回顾和学习。 本节主要是了解深度学习中（或者说是tensorflow中）梯度的计算是怎么做的。 1. 计算图 在学习tensorflow中，我们知道tensorflow都 阅读全文
摘要：
损失函数在【机器学习基础】中有所提及，在深度学习中所使用最多的是均值平方差（MSE）和交叉熵（cross entropy）损失，这里着重介绍一下这两个损失函数及其在tensorflow中的实现。 1. 均方差损失 均方差就是预测值与真实值之间的差异，其公式为： 一般对于标签是实数且无界的值的时候，损 阅读全文
摘要：
本节主要复习一下深度学习中这些常见的网络结构在tensorflow（1.x）中的使用，便于后续tensorflow的学习。 1. 全连接网络结构 全连接网络就是后层的每一个神经元均与前一层的神经元有关，按照上一节的推导，zl=w*al-1+b，然后再经过激活函数记得到了第l层的神经元al： 那么在t 阅读全文
摘要：
这一部分开始，是对深度学习的有关内容进行学习，在机器学习中有涉及到部分有关深度学习的内容，如CNN、autoencoder等比较简单的网络模型。这一部分开始，将对深度学习有一个较为系统的学习和了解。 除了基本理论内容外，中间可能穿插一些tensorflow来实现一些东西，也将在这里一并涉及。 深度学 阅读全文
摘要：
之前有将集成学习中的随机森林、GBDT、XGBoost等算法进行一一介绍，明白了每个算法的大概原理，最近复习了一下李宏毅老师的集成学习的课程，忽然对集成有了更清晰的认识，这里做一个回顾和总结。 集成学习回顾及总结 集成学习从直观的意思来说，就是合众人之力来解决一个问题，而每个人所起的作用又不相同，最 阅读全文
摘要：
SVM的另一种解释 前面已经较为详细地对SVM进行了推导，前面有提到SVM可以利用梯度下降来进行求解，但并未进行详细的解释，本节主要从另一个视角对SVM进行解释，首先先回顾之前有关SVM的有关内容，然后从机器学习的三步走的角度去对SVM进行一个解释。 那么对于传统的机器学习，每个方法最大区别就是损失 阅读全文
摘要：
前面无监督学习主要针对的是一种“降维”的学习任务，将数据降维到另一个能够表达数据含义的某种空间中，本节主要是无监督学习中的另一个任务——生成进行介绍。 生成模型 0.生成模型介绍 通常生成模型是指学习样本数据的分布，可以生成一些新的数据，是相对于判别模型而言的，并不特指有监督学习和无监督学习，比如朴 阅读全文
摘要：
前面介绍了一些降维的方法（PCA、TSNE、LLE、AutoEncoder）,本节主要来了解一下在自然语言处理中的数据的降维，即如何把语言进行降维表示。 0.Word Embedding简介 Word Embedding对于自然语言处理是一个关键的技术。在前面讲到的机器学习算法都是基于数据本身的，而 阅读全文
摘要：
在使用Pandas时，有一个功能强大的函数pd.transform，经查阅资料对该函数做一个总结和学习。 以下内容来源于pandas100个骚操作：transform 数据转换的 4 个常用技巧！ pd.transform主要包括4个主要的功能： 数值转换 分组合并结果 过滤数据 处理缺失值 一、数 阅读全文
摘要：
前面主要回顾了无监督学习中的三种降维方法，本节主要学习另一种无监督学习AutoEncoder，这个方法在无监督学习领域应用比较广泛，尤其是其思想比较通用。 AutoEncoder 0.AutoEncoder简介 在PCA一节中提到，PCA的可以看做是一种NN模型，通过输入数据，乘以权重w即可得到降维 阅读全文