摘要: 一 Review 二 Estimator(估计) 下边补充一些数理统计的知识: 由上图可以看出,样本的均值一般是不等于随机变量的期望(除非你有无穷多个样本点),而样本均值的期望是与随机变量的期望是一致的。样本均值偏离随机变量期望u的程度是由下图中的var[m]所决定的,这个值取决于sample的数量 阅读全文
posted @ 2018-07-30 16:20 珠峰上吹泡泡 阅读(2145) 评论(0) 推荐(0) 编辑
摘要: 一 基础回顾 二 梯度下降的三个小贴士 2.1 tuning your learning rate (1) 最流行也是最简单的做法就是:在每一轮都通过一些因子来减小learning rate。 最开始时,我们距离最低点很远,所以我们用较大的步长。 经过几轮后,我们接近了最低点,所以我们减少learn 阅读全文
posted @ 2018-07-30 09:38 珠峰上吹泡泡 阅读(285) 评论(0) 推荐(0) 编辑