随笔分类 - deep-learning
如何在Jupyter Notebook中使用Python虚拟环境?
摘要:为了让Jupyter Notebook支持虚拟运行环境,需要在Anaconda里安装一个插件。 回到终端下面,退出目前正在运行的Jupyter Notebook Server,然后执行: 再重新开启Jupyter Notebook: 这下我们就能看到差别了——除了最新安装设定的tfpy3外,之前用A
阅读全文
梯度下降优化算法
摘要:梯度下降优化算法一、简介二、梯度下降方法2.1 批量梯度下降法BGD2.2 随机梯度下降法SGD2.3 小批量梯度下降法MBGD三、传统梯度下降法面临的挑战四、改进的梯度下降算法4.1 Momentum4.2 Nesterov accelerated gradient4.3 Adagrad4.4 R
阅读全文
过拟合 (Overfitting)
摘要:过拟合一、定义二、过拟合的解决方案2.1 DropOut2.2 L2 正则化2.3 L1 正则化2.4 最⼤范数约束 (Max Norm) 一、定义 在训练数据集上的准确率很⾼,但是在测试集上的准确率⽐较低 二、过拟合的解决方案 2.1 DropOut 假设有一个过拟合的神经网络如下: DropOu
阅读全文
梯度消亡(Gradient Vanishing)和梯度爆炸(Gradient Exploding)
摘要:文章目录一、梯度消失1.1 定义1.2 梯度消亡(Gradient Vanishing)前提1.3 产生的原因1.4 解决方案二、梯度爆炸2.1 解决方法 一、梯度消失 1.1 定义 神经⽹络靠输⼊端的⽹络层的系数逐渐不再随着训练⽽变化,或者 变化⾮常缓慢。随着⽹络层数增加,这个现象越发明显 1.2
阅读全文
损失函数
摘要:损失函数一、定义二、命名三、损失函数的作用3.1 训练方法3.2 损失函数的选取原则四、常用的损失函数4.1 回归Regression问题4.2 分类Classification问题4.2.1 单label问题4.2.2 多label问题 一、定义 在深度学习中,损失函数是用来衡量一组参数的质量的函
阅读全文
一个例子秒懂误差反向传播
摘要:假设有两个输入值,一个隐藏节点,一个输出节点,隐藏层和输出层的激活函数都是 sigmoid 。下图描述了这个网络。假设损失函数是平方误差L=1/2(y-y^) 2 一、正向传播 假设我们试着输入一些二分类数据,目标是 y=1。我们从正向传导开始,首先计算输入到隐藏层 h=∑wixi=
阅读全文
使用keras构建简单的网络分类鸢尾花
摘要:Tensorflow =1.8.0 # -*- coding: utf-8 -*- from warnings import simplefilter simplefilter(action='ignore', category=FutureWarning) import numpy as np i
阅读全文
Ubuntu16.04下安装cuda和cudnn
摘要:一、卸载旧的CUDA卸载CUDA很简单,一条命令就可以了,主要执行的是CUDA自带的卸载脚本,读者要根据自己的cuda版本找到卸载脚本: sudo /usr/local/cuda-8.0/bin/uninstall_cuda_8.0.pl 卸载之后,还有一些残留的文件夹,之前安装的是CUDA 8.0
阅读全文
用 scikit-learn 实现 One-Hot Encoding
摘要:用 scikit-learn 实现 One-Hot Encoding import numpy as np from sklearn import preprocessing # Example labels 示例labels labels = np.array([1,5,3,2,1,4,2,1,3
阅读全文
Jupyter Notebook
摘要:1、安装 conda install jupyter notebook. 或者pip install jupyter notebook. 2、使用 在终端输入 jupyter notebook 浏览器打开 http://localhost:8888 在Jupyter Notebook中使用conda
阅读全文
conda使用
摘要:1、安装package #conda install package_name conda install numpy>> conda install -c conda-forge scikit-learn #删除conda remove numpy#升级 conda update numpy 2、
阅读全文
深度学习环境搭建
摘要:1、 显卡驱动的安装 查看自己的显卡适合的驱动版本号 方法一 ubuntu-drivers devices 方法二、 先去官网查看适合自己GPU版本的驱动:http://www.nvidia.com/Download/index.aspx?lang=en-us 以GTX1080Ti为例:查到其对应的
阅读全文
Python实现单神经元分类图片的训练
摘要:1、加载包和数据 numpy is the fundamental package for scientific computing with Python. h5py is a common package to interact with a dataset that is stored on
阅读全文
loss函数和cost函数
摘要:loss函数指单个样本的预测值和真值的偏差 cost函数指整体样本的预测值和真值的偏差
阅读全文
MATLAB——BP神经网络
摘要:1、使用误差反向传播(error back propagation )的网络就叫BP神经网络 2、BP网络的特点: 1)网络由多层构成,层与层之间全连接,同一层之间的神经元无连接 。 2)BP网络的传递函数必须可微。BP网络一般使用Sigmoid函数或线性函数作为传递函数。 在输出层使用Sigmoi
阅读全文