摘要：
人工神经网络 核心：一个多层的复合函数。 人工神经网络在本质上是一个多层的复合函数： 它实现了从向量x到向量y的映射。由于使用了非线性的激活函数f，这个函数是一个非线性函数。 神经网络训练时求解的问题不是凸优化问题。反向传播算法由多元复合函数求导的链式法则导出。 标准的神经网络是一种有监督的学习算法 阅读全文
摘要：
一句话总结随机森林 核心：用有放回采样的样本训练多棵决策树，训练决策树的每个节点是只用了无放回抽样的部分特征，预测时用这些树的预测结果进行投票。 随机森林是一种集成学习算法，它由多棵决策树组成。这些决策树用对训练样本集随机抽样构造出样本集训练得到。随机森林不仅对训练样本进行抽样，还对特征向量的分量随 阅读全文
摘要：
一句话总结卷积神经网络 核心：一个共享权重的多层复合函数。 卷积神经网络在本质上也是一个多层复合函数，但和普通神经网络不同的是它的某些权重参数是共享的，另外一个特点是它使用了池化层。训练时依然采用了反向传播算法，求解的问题不是凸优化问题。 和全连接神经网络一样，卷积神经网络是一个判别模型，它既可以用 阅读全文
摘要：
一句话总结K均值算法 核心：把样本分配到离它最近的类中心所属的类，类中心由属于这个类的所有样本确定。 k均值算法是一种无监督的聚类算法。算法将每个样本分配到离它最近的那个类中心所代表的类，而类中心的确定又依赖于样本的分配方案。这是一个先有鸡还是先有蛋的问题。 在实现时，先随机初始化每个类的类中心，然 阅读全文
摘要：
一句话总结kNN算法 核心：模板匹配，将样本分到离它最相似的样本所属的类。 kNN算法本质上使用了模板匹配的思想。要确定一个样本的类别，可以计算它与所有训练样本的距离，然后找出和该样本最接近的k个样本，统计这些样本的类别进行投票，票数最多的那个类就是分类结果。下图是kNN算法的示意图： 在上图中有红 阅读全文
摘要：
一句话总结决策树 核心：一组嵌套的判定规则。 决策树在本质上是一组嵌套的if-else判定规则，从数学上看是分段常数函数，对应于用平行于坐标轴的平面对空间的划分。判定规则是人类处理很多问题时的常用方法，这些规则是我们通过经验总结出来的，而决策树的这些规则是通过训练样本自动学习得到的。下面是一棵简单的 阅读全文
摘要：
一句话总结贝叶斯分类器 核心：将样本判定为后验概率最大的类。 贝叶斯分类器直接用贝叶斯公式解决分类问题。假设样本的特征向量为x，类别标签为y，根据贝叶斯公式，样本属于每个类的条件概率（后验概率）为： 分母p(x)对所有类都是相同的，分类的规则是将样本归到后验概率最大的那个类，不需要计算准确的概率值， 阅读全文