-
机器学习-梯度下降基本算法
摘要:梯度下降 1.随机梯度下降 2.使用动量的随机梯度下降 参考李宏毅教授的机器学习课程,加入了动量参数之后可以解决一部分局部最小值的问题; 虽然随机梯度下降仍然是非常受欢迎的优化方法,但学习速率有时会很慢。 动量方法 (Polyak, 1964) 旨在加速学习,特别是处理高曲率,小但一致的梯度,或是带
阅读全文
-
机器学习-梯度下降(转载)
摘要:梯度下降 https://www.jianshu.com/p/c7e642877b0e 反向传播 https://www.jianshu.com/p/96a5ba02bacc
阅读全文
-
随记-进程与线程
摘要:进程(Process) 是计算机中的程序关于某数据集合上的一次运行活动,是系统进行资源分配和调度的基本单位,是操作系统结构的基础。 在当代面向线程设计的计算机结构中,进程是线程的容器。程序是指令、数据及其组织形式的描述,进程是程序的实体。是计算机中的程序关于某数据集合上的一次运行活动,是系统进行资源
阅读全文
-
机器学习-K-means
摘要:序言 K-means算法是非监督学习(unsupervised learning)中最简单也是最常用的一种聚类算法,具有的特点是: 对初始化敏感。初始点选择的不同,可能会产生不同的聚类结果 最终会收敛。不管初始点如何选择,最终都会收敛。 K-means算法 实际上,无论是从算法思想,还是具体实现上,
阅读全文
|