随笔分类 - 数学知识
摘要:https://blog.csdn.net/u011508640/article/details/72815981 最大后验估计 最大似然估计的一个缺点就是当训练数据比较少的时候会发生过拟合,估计的参数可能不准确。为了避免过拟合,我们可以给参数加上一些先验知识。 先验概率是指根据以往经验和分析。在实
阅读全文
摘要:https://blog.csdn.net/weixin_35474374/article/details/112334484 没怎么看懂,先记录一下
阅读全文
摘要:这篇文章 https://zhuanlan.zhihu.com/p/250146007 其实随机算法分为两类:蒙特卡罗方法和拉斯维加斯方法,蒙特卡罗方法指的是算法的时间复杂度固定,然而结果有一定几率失败,采样越多结果越好。拉斯维加斯方法指的是算法一定成功,然而运行时间是概率的。 不可约:每个状态都能
阅读全文
摘要:继续看这些文章: 《你一定从未看过如此通俗易懂的马尔科夫链蒙特卡罗方法(MCMC)解读》上下 https://zhuanlan.zhihu.com/p/250146007 https://zhuanlan.zhihu.com/p/253784711 《如何快速理解马尔科夫链蒙特卡洛法?》 https
阅读全文
摘要:参考这篇文章: https://baijiahao.baidu.com/s?id=1611846467821315306&wfr=spider&for=pc 里面提到了纳什均衡点和博弈论的一些知识 还有一些例子,比如智猪博弈
阅读全文
摘要:参考这篇文章: https://mp.weixin.qq.com/s/Y6a5ZB9QzZ1uxtgmE4rwZw
阅读全文
摘要:参考这篇文章: https://blog.csdn.net/bqw18744018044/article/details/83120425 【深度学习】:超详细的Softmax求导
阅读全文
摘要:参考这篇文章: https://mp.weixin.qq.com/s?__biz=MzI1OTYwNDE2Mg==&mid=2247483753&idx=1&sn=acec759cf688e21660b61e791986bfac&chksm=ea772ac4dd00a3d239995c8e6b9e8
阅读全文
摘要:可以参考这篇文章: https://zhuanlan.zhihu.com/p/36711903 《BP 神经网络 —— 逆向传播的艺术》 里面有一些重要的知识点: 神经网络的前馈 (forward propagation) 过程,前馈过程也非常容易理解,符合人正常的逻辑,具体的矩阵计算表达如下:
阅读全文
摘要:这篇文章还讲得比较清楚: https://blog.csdn.net/u011508640/article/details/72815981 《详解最大似然估计(MLE)、最大后验概率估计(MAP),以及贝叶斯公式的理解》 MLE:Maximum Likelihood Estimation,极大似然
阅读全文
摘要:这篇文章讲得还比较清楚: https://blog.csdn.net/huguozhiengr/article/details/81777577 《统计学中的频率学派与贝叶斯学派》 频率学派认为,对于一批样本,其分布是确定的,也即是是确定的,只不过未知。 贝叶斯学派引入了主观概率的概念,认为一个事件
阅读全文
摘要:这一篇文章讲得很好: https://zhuanlan.zhihu.com/p/36564434 《梯度下降法 —— 经典的优化方法》 核心是这张图: 所以负梯度方向,不是随便得来的,是根据泰勒公式推导得来的。
阅读全文