随笔分类 - Machine Learning
摘要:反向传播算法是大多数神经网络的基础,我们应该多花点时间掌握它。 还有一些技术能够帮助我们改进反向传播算法,从而改进神经网络的学习方式,包括: 选取更好的代价函数 正则化方法 初始化权重的方法 如何选择网络的超参 Cost Function 这里来看一个非常简单的神经元,我们输入1,期望它输出0。 我
阅读全文
摘要:深度神经网络的学习基于两个关键技术: Stochastic Gradient Descent Backpropagation 利用 SGD 算法学习 Weights 和 Biases,利用 Backpropagation 算法来快速计算 Cost Function 的 Gradient 。 反向传播
阅读全文
摘要:Artificial Neuron 人工神经元有: Perceptrons(感知机) Sigmoid Perceptron 感知机 input是多个二进制 , output是一个二进制 。 感知机规则 $$ output= \begin{cases} 0& \text{if } \sum_{j}w_
阅读全文
摘要:在机器学习领域里,最核心的两种数值计算分别是: 距离计算 概率计算 今天 "Reinhard Hsu" 就来看看常见都有哪些常见的的距离计算。 欧式距离(Euclidean Metric) 欧几里得距离,用于计算两个点之间的实际距离,计算方法是使用毕达哥拉斯定理,也就是咱们中国的勾股定理。 对于二维
阅读全文