万事开头难

摘要： 上一篇博客（08-3）介绍了怎么获取inception v3模型数据，现在我们用下载好的模型进行简单的图片分类实验。 # -*- coding: UTF-8 -*- import tensorflow as tf import os import numpy as np import re from 阅读全文

摘要： 我们先定义一个简单的神经网络，用来训练模型，然后将模型保存下来，最后加载保存下来的模型进行检测，查看输出结果。 在同文件夹下新建一个net文件夹。在代码末尾写： saver.save(sess,'net/my_net.ckpt') #模型训练和保存 import tensorflow as tf f 阅读全文

摘要： 代码实现 # -*- coding: UTF-8 -*- import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data #载入数据集 mnist = input_data.read_data_se 阅读全文

摘要： 卷积和池化在深度学习中的作用是对图像和文本信息提取特征的常用方式，特别是在分类领域 卷积：通过不同的卷积核与图像或文本数据矩阵 进行矩阵相乘，得到不同特征的若干组训练特征数据 池化：池化通常有两种最大池化（max-pooling）和平均池化，最大池化就是在一块矩阵区域（比如2X2，4个像素点），取最 阅读全文

摘要： 单下划线、双下划线、头尾双下划线说明： __foo__: 定义的是特殊方法，一般是系统定义名字 ，类似 __init__() 之类的。 _foo: 以单下划线开头的表示的是 protected 类型的变量，即保护类型只能允许其本身与子类进行访问，不能用于 from module import * _ 阅读全文

摘要： Attention 机制 1. 什么是Attention？ 简而简之，深度学习中的注意力可以被广义地理解为标志重要性的权重向量 为了预测或推断一个元素，例如图像中的像素或句子中的单词，我们使用注意力权重来估计其他元素与其相关的强度，并将由注意力权重加权的值的总和作为计算最终目标的特征。 Step1. 阅读全文

摘要： 运行tensorboard.py文件后。执行下面的语句（Ubuntu中执行下面命令）会出现一个网址，复制网址在谷歌或者火狐浏览器中打卡开，就可以在tensorboard中的graph看到图 在命令行中输入 (menpo) queen@queen-X550LD:~/Downloads/py$ tens 阅读全文

摘要： tensorflow中的优化器有很多种，也有很多类似的博客，当然最常用的是AdamOptimizer，我们这里就通过adma和衰减的学习率加上之前学的多层结构，使手写数字模型准确率达到98%以上 以下代码优化地方为： 1.增加2个隐藏层 2. 把权值用了一个截断的正态分布初始化 3. 使用交叉熵代价 阅读全文

摘要： 减小过拟合的几种方法： 我们建一个三层的网络，并给他加上droppout 测试一下训练20次的准确率 1 # -*- coding: UTF-8 -*- 2 3 4 import tensorflow as tf 5 from tensorflow.examples.tutorials.mnist 阅读全文

摘要： 二次代价函数 C=12n∑x1,...xn∥y(x)−aL(x)∥2C=12n∑x1,...xn‖y(x)−aL(x)‖2 其中，C表示代价函数，x表示样本，y表示实际值，a表示输出值，n表示样本的总数；整个的意思就是把n个y-a的平方累加起来，再除以2求一下均值。 为简单起见，先看下 一个样本 的 阅读全文