会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
弥漫的幻雪的博客
Powered by
博客园
博客园
|
首页
|
新随笔
|
联系
|
订阅
|
管理
2018年5月20日
L2正则
摘要: 一、Loss加入L2正则对参数的影响 根据在最优解处的泰勒展开,L2正则化会让某些参数缩小,但不会到0 二、为什么参数缩小可以减少过拟合 过拟合的函数在小区间里变化剧烈,这就需要有很大的导数,由于自变量的值可大可小,只有系数特别大才能保证导数很大
阅读全文
posted @ 2018-05-20 15:54 弥漫的幻雪
阅读(158)
评论(0)
推荐(0)
编辑
L1正则
摘要: 一、L1正则会给参数带来什么影响 L1正则会产生稀疏解,可以根据在最优解处的二阶泰勒展开推导得到 二、对解决过拟合的影响 模型的偏差,是指经验风险,即拟合训练数据。模型的方差,是指结构风险,就是指参数是不是小
阅读全文
posted @ 2018-05-20 15:52 弥漫的幻雪
阅读(172)
评论(0)
推荐(0)
编辑
CNN----卷积为何能提取图像特征
摘要: 一、曲线过滤器 二、过滤器作用于图像 对于过滤器识别的特征,将计算得到很大的值 不符合过滤器的特征,将得到很小的值 三、高层特征 对原图进行的第一次卷积,经过池化以后得到的特征图,是特征激活图。第二层的卷积,就是被激活特征的组合
阅读全文
posted @ 2018-05-20 15:29 弥漫的幻雪
阅读(1497)
评论(0)
推荐(0)
编辑