随笔分类 -  深度学习

摘要:大家好,非常感谢关注到该博客园,由于个人原因,后期主要将知乎作为写作和记录平台,感兴趣的请移步到 个人知乎 有问题可以在那边提问,谢谢! 阅读全文
posted @ 2022-08-02 16:39 忆凡人生 阅读(306) 评论(0) 推荐(0)
摘要:目录 训练集loss不下降 验证集loss不下降 测试集loss不下降 实践总结 loss不下降,分多种情况:训练集不下降,验证集不下降,本文结合其它博客,做个小的总结: 首先看看不同情况:train loss与test loss结果分析 train loss 不断下降,test loss不断下降, 阅读全文
posted @ 2020-12-04 21:27 忆凡人生 阅读(16348) 评论(0) 推荐(0)
摘要:一句话说明:AE简单来说就是encode先压缩真实样本成一个隐变量(一般用z表示),在逆向decode还原生真实样本通大小的新样本。调整中间参数,使得前后样本尽量相似或相同,这样中间隐变量就能展现原来样本的特征了。VAE在此基础上,生成Z前,添加方差(即噪音),构成一个分布式结构,其它基本与AE相同 阅读全文
posted @ 2020-08-30 20:10 忆凡人生 阅读(15266) 评论(0) 推荐(3)
摘要:目录 为什么要初始化 公式推导 初始化方法 引入激活函数 初始化方法分类 一、为什么要初始化 在深度学习中,神经网络的权重初始化方法(weight initialization)对模型的收敛速度和性能有着至关重要的影响。简单而言:神经网络其实就是对权重参数w的不停迭代更新,以期达到较好的性能。但随着 阅读全文
posted @ 2020-08-29 19:33 忆凡人生 阅读(2095) 评论(0) 推荐(0)
摘要:目录 背景介绍 AlexNet(2012) VGGNet(2014) GoogleNet ResNet(2015) 一、背景介绍 卷积神经网络(Convolutional Neural Networks,CNN),CNN可以有效的降低反馈神经网络(传统神经网络)的复杂性,常见的CNN结构有LeNet 阅读全文
posted @ 2020-05-05 20:16 忆凡人生 阅读(1192) 评论(0) 推荐(0)
摘要:目录 背景 从RNN到LSTM LSTM 的核心思想 LSTM前向传播算法 LSTM 的变体 一、背景 由于RNN梯度消失的问题,因此很难处理长序列的数据,大牛们对RNN的机构做了改进,得到了RNN的特例长短期记忆网络LSTM(Long Short-Term Memory)和其它变形,可以从结构上避 阅读全文
posted @ 2020-04-08 20:34 忆凡人生 阅读(927) 评论(0) 推荐(1)
摘要:目录 RNN概述 RNN模型 RNN前向传播 RNN反向传播算法 其它RNN 一、RNN概述 RNN(Recurrent Neural Network)是一类用于处理序列数据的神经网络。 首先我们要明确什么是序列数据,摘取百度百科词条:时间序列数据是指在不同时间点上收集到的数据,这类数据反映了某一事 阅读全文
posted @ 2020-04-08 20:32 忆凡人生 阅读(647) 评论(0) 推荐(0)
摘要:目录 简述 算法过程 总结 一、简述 1.1 来源: 大脑是由处理信息的神经元细胞和连接神经元的细胞进行信息传递的突触构成的。树突(Dendrites)从一个神经元接受电信号,信号在细胞核(Cell Body)处理后,然后通过轴突(Axon)将处理的信号传递给下一个神经元。 计算机处理信息类比为输入 阅读全文
posted @ 2019-12-17 08:40 忆凡人生 阅读(1849) 评论(0) 推荐(0)
摘要:一、目录 1、目录 2、简述 3、CNN的结构组成 4、卷积神经网络 VS. 传统神经网络 5、总结 常见问答 二、简述 1980年,一位名为Fukushima的研究员提出了一种分层神经网络模型。他称之为新认知。该模型的灵感来自简单和复杂细胞的概念。neocognitron能够通过了解物体的形状来识 阅读全文
posted @ 2019-11-19 14:26 忆凡人生 阅读(2094) 评论(0) 推荐(0)