摘要:
本文结构: 1. 什么是感知器 在下图,这个神经网络中,每个圆圈都是一个神经元,神经元也叫做感知器 只有一个隐藏层的神经网络就能拟合任何一个函数,但它需要很多很多的神经元。 而深层神经网络用相对少的神经元就能拟合同样的函数,但是层数增加了,不太容易训练,需要大量的数据。 为了拟合一个函数,可以使用一 阅读全文
摘要:
mini-batch在深度学习中训练神经网络时经常用到,这是一种梯度下降方法,可以很快的降低cost,接下来系统介绍一下。 1. 什么是 mini-batch梯度下降 先来快速看一下BGD,SGD,MBGD的定义, 当每次是对整个训练集进行梯度下降的时候,就是batch梯度下降 当每次只对一个样本进 阅读全文
摘要:
小时候经常会自己玩一个数学游戏,就是遇到一个长度大于2的数字,把它的所有位数相加,直到加到变成1位。没想到,今天竟然在leetcode遇到了。。汗,之前只是玩了,并没有总结规律。 258. Add Digits Given a non-negative integer num, repeatedly 阅读全文
摘要:
题目如下: 这道题,只给了当前想要删除的节点,没有给这个节点前面的节点,导致删除时,无法使用先前节点指向之后节点的方法。 但是仔细分析这道题,确实能发现一些巧妙之处,题目虽然说:given only access to that node. 但是之前也说明了except the tail. 说明这个 阅读全文
摘要:
评估指标 Evaluation metrics 可以说明模型的性能,辨别模型的结果。 我们建立一个模型后,计算指标,从指标获取反馈,再继续改进模型,直到达到理想的准确度。在预测之前检查模型的准确度至关重要,而不应该建立一个模型后,就直接将模型应用到看不到的数据上。 今天先来简单介绍几种回归和分类常用 阅读全文
摘要:
本文转自简书,https://www.jianshu.com/p/d99b83f4c1a6。 本文主要涉及一些梯度下降算法。 阅读全文
摘要:
验证曲线的作用 我们知道误差由偏差(bias)、方差(variance)和噪声(noise)责成。 偏差:模型对于不同的训练样本集,预测结果的平均误差。 方差:模型对于不同训练样本集的敏感程度 噪声:数据集本身的一项属性 同样的数据(cos函数上的点加上噪声),我们用同样的模型(polynomial 阅读全文
摘要:
之前有一篇文章介绍了什么是偏差(bias)与方差(variance),这篇文章介绍一下如何使用学习曲线来判断模型是否处于欠拟合或过拟合。 什么是学习曲线? 学习曲线就是通过画出不同训练集大小时训练集和验证集的准确率,可以看到模型在新数据上的表现,进而来判断模型是否方差偏高或偏差过高,是否可以通过增加 阅读全文
摘要:
本文转载自Alice熹爱学习。本文不用做任何商业用途,纯属博主记录学习使用。 文章链接:https://blog.csdn.net/aliceyangxi1987/article/details/71079448。 <!-- flowchart 箭头图标 勿删 --> 上周一个叫 Abhishek 阅读全文
摘要:
什么是交叉验证? 它的基本思想就是将原始数据(dataset)进行分组,一部分做为训练集来训练模型,另一部分做为测试集来评价模型。 主要是用于小部分数据集中。通过图片可以看出,划分出来的测试集(test set)是不可以动的,因为模型参数的优化是使用验证集(validation set),这个结果是 阅读全文