随笔分类 - 神经网络
摘要：1、官网数据下载 有时会受到网络限制不能直接加载cifar10数据，需要下载离线数据包，官方网址如下： https://www.cs.toronto.edu/~kriz/cifar-10-python.tar.gz 2、压缩包重命名与解压 将压缩包放置user/xxx/.keras/datasets
阅读全文
摘要：拷贝来源：https://blog.csdn.net/yanghe4405/article/details/107521797 仅作记录，便于使用时查找。 import tensorflow as tf import os import numpy as np #新增 mnist = tf.kera
阅读全文
摘要：深度学习框架Caffe: 神奇且强大的Caffe： 在GitHub上有一个小社区：Model Zoo Caffe官网： 可以通过Caffe官网的实例进行Caffe学习的快速入门。
阅读全文
摘要：Data Augmentation 水平翻转（horizontal flips），镜像操作，是数据增强的常用操作； 随机裁剪（实际要检测的部分可能是被遮蔽的、或者光线强度不同、姿势不同等，所以训练时采用裁剪某个大小进行训练） 随机大小（大小变换，图像进行放大和缩小，不同大小的也要做随机的裁剪）。 其
阅读全文
摘要：location 对输入图像定位，找到盒子坐标（x,y,w,h)；Clssificaion and Location的最后一层是的特征做两件事，一个是分类，一个是定位。 训练时使用已有的模型，也就是最后一层全联接之前所有的参数都用已有模型的，然后在这个基础上进行微调（fine tune），使其向着想
阅读全文
摘要：一、递归神经网络RNN 实际属于输入之间可能是存在联系的，所以在多次输入x0、x1........中，每次的中间信息A（也称为机器单元）都保存下来传给下次输入的中间信息A，每次输入的计算结果h0、h1......不一定是目标结果可以不使用，只有最终的ht是想要的预测结果。 递归神经网络适合自然语言处
阅读全文
摘要：卷积层和池化层 与神经网络相比，卷积神经网络多了卷积层和池化层，基本顺序为data-conv-ReLU-Pooling-FC（全联接层）-s 一、卷积神经网络的权重共享 经典神经网络：全连接，即每个神经元都与每一个数据有对应的参数； 卷积神经网络是权重共享的，就是得到的特征图的每个像素点都是原图的一
阅读全文
摘要：一、激活函数 线性操作分类能力不强，而非线性表达可以分开数据。 神经网络中隐层就是增加了激活函数，使得神经网络表达出更强大的效果。 Sigmoid可作为激活函数，但容易引起梯度消失（导数趋近于0）。 max（0，x）就是ReLU激活函数，可以解决梯度消失问题，导数简单，已经常用的神经网络激活函数。
阅读全文
摘要：一、前向传播：通过一组w参数得到一组得分值f(x)，再做e^x再归一化，再到Loss值。 Bachsize是一次取2的整数倍数（32,64,128）张图片做一次迭代 学习率：过大会来回震荡，找不到最小值；太小，迭代次数过大，效率低。 二、反向传播 由Loss值一步一步往回传，更新权重参数。 先算z对
阅读全文
摘要：SVM输出的是一个得分值； Softmax的输出是概率。 Sigmoid函数 损失函数计算的是判断正确时的概率的损失值，所以这里是0.13。 Softmax分类器对任何一个分数都可以求出一个损失值。
阅读全文
摘要：一、线性分类 得分函数：f(x,W) = W*x + b （均为矩阵运算），W为权重参数，x是图像。 得分高的部分就是判断属于那个类别。 多条线分类 二、损失函数 损失函数评估预测模型的效果，1位容忍值，最终损失值越大表示预测效果越差。
阅读全文
摘要：一、影响图片识别的因素： 1 角度 2 光照强度 3 形状改变（物体的姿态） 4 部分遮蔽（只有半张脸） 5 背景混入 二、常规识别套路： 1 收集数据集并给定标签 2 训练一个分类器 3 测试 评估 三、K-近邻算法 CIFAR-10数据集(数据库样例) 适合用于练习 四、对图像数据怎样计算所谓的
阅读全文
