摘要: 二、基本概念 1 有监督学习与无监督学习 根据样本数据是否带有标签值,可以将机器学习算法分成有监督学习和无监督学习两类。有监督学习的样本数据带有标签值,它从训练样本中学习得到一个模型,然后用这个模型对新的样本进行预测推断。有监督学习的典型代表是分类问题和回归问题。 无监督学习对没有标签的样本进行分析 阅读全文
posted @ 2019-12-23 15:56 萨姆大叔 阅读(806) 评论(0) 推荐(0) 编辑
摘要: 一、列举常用的最优化方法 梯度下降法 牛顿法, 拟牛顿法 坐标下降法 梯度下降法的改进型如AdaDelta,AdaGrad,Adam,NAG等。 2梯度下降法的关键点 梯度下降法沿着梯度的反方向进行搜索,利用了函数的一阶导数信息。梯度下降法的迭代公式为: 根据函数的一阶泰勒展开,在负梯度方向,函数值 阅读全文
posted @ 2019-12-23 15:02 萨姆大叔 阅读(1512) 评论(0) 推荐(0) 编辑