文章分类 - 深度学习

摘要：为什么需要

R N N (R e c u r r e n t - N e u r a l - N e t w o r k)

假设我们在用一个全连接的神经网络去做一个英文词性分类的任务，当有这么一个句子"

I

s a w

a

s a w

"，这句话的意思是"我看见了一个锯子"，前一个

s a w

的意思是"看见"的意思，而后面那个

s a w

是"锯子" 阅读全文

posted @ 2022-09-13 21:17 kris-phl 阅读(7) 评论(0) 推荐(0) 编辑

卷积神经网络CNN

摘要：一些概念特征图(

f e a t u r e - m a p

)：以灰度图片为例，由于图片是由一个一个的像素格组成的，每个像素格中的数字大小表示了在该处颜色的深浅，比如灰度图像中的数字越大，在该点的颜色就越接近黑色，越小则越接近白色，即该点的颜色会随着数字的增大而从白变成灰最后完全变成黑色。灰度图像的特征图只有一层，阅读全文

posted @ 2022-09-13 17:03 kris-phl 阅读(6) 评论(0) 推荐(0) 编辑

权重初始化

摘要：梯度消失指在网络反向传播过程中由于链式求导法则不断的累积，如果每一层的梯度都小于1，由于累乘效应，出现了某些参数的梯度非常小的现象。在使用这些梯度更新梯度的时候参数值基本没有发生变化，因此就出现了网络训练停滞、模型无法继续优化的问题。梯度爆炸指在网络反向传播过程中由于链式求导法则的累乘效应，在阅读全文

posted @ 2022-09-03 21:03 kris-phl 阅读(18) 评论(0) 推荐(0) 编辑

L1,L2和Dropout正则化

摘要：范数

L_{0}

范数：向量中非零元素的个数

e g ： [1, 2, 0, 4]^{T}

的

L_{0}

范数为

3

L_{1}

范数：向量中所有元素的绝对值之和

e g ： [- 2, 3, 4, 1]^{T}

的

L_{1}

范数为

| - 2 | + 3 + 4 + 1 = 10

L_{2}

范数：欧式距离，即向量的模 $eg：[- 阅读全文

posted @ 2022-09-02 16:21 kris-phl 阅读(73) 评论(0) 推荐(0) 编辑

反向传播代码实现

摘要：数据可视化这里的数据集使用的是用矩阵表示的灰度数字图像，其包含两个部分，灰度图像部分

X

和结果部分

y

。 import pandas as pd import numpy as np import matplotlib.pyplot as plt from scipy.io import lo 阅读全文

posted @ 2022-08-26 21:43 kris-phl 阅读(16) 评论(0) 推荐(0) 编辑

pycharm训练mnist集

摘要：在Pycharm上创建虚拟环境在Pycharm上新建一个项目并打开选择“File->Setting->Project Interpreter”，点击下图红色圆圈所指的按钮，选择 ”add...“选项，找到tensorflow环境下的python.exe并选择它(一般在Anaconda/envs/ 阅读全文

posted @ 2022-07-25 15:39 kris-phl 阅读(146) 评论(0) 推荐(0) 编辑

tensorflow和keras安装

摘要：前提：已安装好python和anaconda(本人python版本为3.7，anaconda为4.7.10) tensorflow安装步骤打开Anaconda Prompt 检测安装环境，输入以下两条命令 conda --version #输出conda 4.7.10 python --versi 阅读全文

posted @ 2022-07-23 21:22 kris-phl 阅读(33) 评论(0) 推荐(0) 编辑