2019年11月19日

提前终止法与正则化法之间关系

摘要: [TOC] 前言 前两篇博客( "从贝叶斯角度理解正则化" 、 "正则化" )分别介绍了提前终止法和正则化法。 它们可以近似等价的吗?怎么近似等价? 左边这张图轮廓线表示负对数似然函数的轮廓,虚线表示从原点开始的SGD所经过的轨迹。提前终止法的轨迹在较早的$\tilde \omega $点终止,而不 阅读全文

posted @ 2019-11-19 19:08 云帆sc 阅读(367) 评论(0) 推荐(0) 编辑

从贝叶斯角度理解正则化

摘要: [TOC] 前言 上一篇: "正则化" 下一篇: "贝叶斯正则化与提前终止法关系" 1.贝叶斯法则 贝叶斯法则: $P(A|B) = \frac{P(B|A)P(A)}{P(B)}$ $P(A)$称为先验概率(反映在已知$B$之前对事件$A$的认知);$P(A|B)$称为后验概率(反映在已知$B$之 阅读全文

posted @ 2019-11-19 18:14 云帆sc 阅读(1744) 评论(0) 推荐(0) 编辑

2019年11月16日

深入理解泛化

摘要: [TOC] 1.引言 什么是泛化呢? 先举个栗子: 小明和小李都上了高三。小明头脑机灵,一边刷着五年高考三年模拟一边总结做题规律,而小李一门心思刷题,一套完了又一套,刷的试卷堆成山了却没有对错题进行总结。高考结束成绩公布,小明超出一本线几十分,而小李却勉强上了二本线。这是为什么呢? 原来高考试题一般 阅读全文

posted @ 2019-11-16 10:11 云帆sc 阅读(3221) 评论(0) 推荐(1) 编辑

2019年11月15日

正则化

摘要: 文章目录 1.泛化问题 2.一些方法 3.提前终止法 4.正则化法 4.1定义 4.2 对正则化理解 4.3正则化法分类 4.3.1 L1/L2正则化法 4.3.2 Dropout法 4.3.3 从贝叶斯角度理解正则化 5.提前终止法与正则化法之前关系 参考资料 1.泛化问题 上一篇文章深入理解泛化 阅读全文

posted @ 2019-11-15 22:12 云帆sc 阅读(442) 评论(0) 推荐(0) 编辑

2019年11月3日

生物群体运动模型笔记

摘要: 生物群体运动模型笔记文章目录1.概述2. B... 阅读全文

posted @ 2019-11-03 15:37 云帆sc 阅读(2702) 评论(0) 推荐(0) 编辑

2019年10月8日

MOOC下载器的文档整理

摘要: 1.背景 最近学习中国大学MOOC的课程,... 阅读全文

posted @ 2019-10-08 19:22 云帆sc 阅读(1513) 评论(0) 推荐(0) 编辑

2019年9月28日

多智能体系统(MAS)简介

摘要: 1.背景   自然界中大量个体聚集时往往能够形成协调、有序,甚至令人感到震撼的运动场景,比如天空中集体翱翔的庞大的鸟群、海洋中成群游动的鱼群,陆地上合作捕猎的狼群。这些群体现象所表现出的分布、协调、自组织、稳定、智能涌现等特点,引起了生物学家的研究兴趣。而后为了满足工程需要,美国 阅读全文

posted @ 2019-09-28 11:20 云帆sc 阅读(13877) 评论(0) 推荐(2) 编辑

2019年9月20日

某阅读多word整理自动化脚本

摘要: 版权声明:本文为博主原创文章,转载 请注明出... 阅读全文

posted @ 2019-09-20 11:32 云帆sc 阅读(316) 评论(0) 推荐(0) 编辑

2019年5月23日

Tensorflow&CNN:验证集预测与模型评价

摘要: 版权声明:本文为博主原创文章,转载 请注明出... 阅读全文

posted @ 2019-05-23 14:38 云帆sc 阅读(1216) 评论(0) 推荐(0) 编辑

Tensorflow&CNN:裂纹分类

摘要: 版权声明:本文为博主原创文章,转载 请注明出... 阅读全文

posted @ 2019-05-23 13:03 云帆sc 阅读(329) 评论(0) 推荐(0) 编辑

导航