摘要:
在自然界中除了位置相关的信息(图片)以外,还用一种存在非常广泛的类型,就是时间轴上的数据,比如说序列信号,语音信号,聊天文字。就是有先后顺序。 对于下面这个: 不如说我们输入有10个句子,每个句子都有4个单词,然后我们怎么把这些句子转化为具体的数值呢。如果一个表示方法能够很好的表示这个单词的特性的话 阅读全文
摘要:
# 1 ResNet ![image](https://img2023.cnblogs.com/blog/1914163/202306/1914163-20230624153508624-1927891219.png) 我们是实验发现在我们堆叠更多的网络结构的时候,我们并不能又一个很好的结果,就是它 阅读全文
摘要:
我们发现这个sigmoid函数在小于-4或者大于4的时候他的导数趋近于0。然后我们送进去的input的值在[-100,100]之间,这样很容易引起梯度弥散的现象。所以我们一般情况下使用ReLU函数,但是我们有时候又不得不使用sigmoid函数。这个时候我们在送到下一层的时候我们应该先经过Normal 阅读全文
摘要:
![image](https://img2023.cnblogs.com/blog/1914163/202306/1914163-20230624091330618-1575295245.png) # LeNet-5 ![image](https://img2023.cnblogs.com/blog 阅读全文
摘要:
![image](https://img2023.cnblogs.com/blog/1914163/202306/1914163-20230623224947072-1200603742.png) ▪ Load datasets ▪ Build Network ▪ Train ▪ Test ![im 阅读全文
摘要:
▪ Pooling ▪ upsample ▪ ReLU 我们看一下这个Subsampling层就是这个:这一层起到Reduce Dim的作用。 ![image](https://img2023.cnblogs.com/blog/1914163/202306/1914163-2023062322121 阅读全文
摘要:
再跑CNN程序的时候报了这个错 ``` 2023-06-23 21:11:52.069321: I tensorflow/core/platform/cpu_feature_guard.cc:151] This TensorFlow binary is optimized with oneAPI D 阅读全文
摘要:
# 1 卷积神经网络的引入 这个主要是应对2D的图片处理产生的。 灰色的图片的表示:[b,h,w,1] ![image](https://img2023.cnblogs.com/blog/1914163/202306/1914163-20230621094420677-934100077.png) 阅读全文
摘要:
Tricks ▪ Early Stopping ▪ Dropout ▪ Stochastic Gradient Descent # 1 Early stopping 我们走到最大指的时候我们可以提交stop掉,防止它overfitting。 ![image](https://img2023.cnbl 阅读全文
摘要:
▪ momentum(动量,惯性) ▪ learning rate decay # 1 momentum ![image](https://img2023.cnblogs.com/blog/1914163/202306/1914163-20230620160400056-8750057.png) 分 阅读全文