摘要: 首先简要介绍了下TFRecord格式以及内部实现protobuf协议,然后基于TFRecord格式,对MNIST数据集转换成TFRecord格式,写入本地磁盘文件,再从磁盘文件读取,通过pyplot模块现实在界面上,效果图如下: TFRecord和Protobuf协议简介 TFRecord是谷歌专门 阅读全文
posted @ 2018-08-24 01:04 派森蛙 阅读(418) 评论(0) 推荐(0) 编辑
摘要: 如果不对模型参数进行保存,当训练结束以后,模型也在内存中被释放,下一轮又需要对模型进行重新训练,有没有一种方法,可以利用之前已经训练好的模型参数值,直接进行模型推理或者继续训练?这里需要引入一个数据之久化的概念,其通用定义就是将内存中的数据模型转换为存储模型,以及将存储模型转换为内存中的数据模型的统 阅读全文
posted @ 2018-08-14 23:36 派森蛙 阅读(388) 评论(0) 推荐(0) 编辑
摘要: 如下样例基于tensorflow实现了一个简单的3层深度学习入门框架程序,程序主要有如下特性: 1、 基于著名的MNIST手写数字集样例数据:http://yann.lecun.com/exdb/mnist/ 2、 加入衰减学习率优化,使得学习率可以根据训练步数指数级减少,在训练后期增加模型稳定性 阅读全文
posted @ 2018-08-05 01:20 派森蛙 阅读(406) 评论(0) 推荐(0) 编辑
摘要: 为了使训练模型在测试数据上有更好的效果,可以引入一种新的方法:滑动平均模型。通过维护一个影子变量,来代替最终训练参数,进行训练模型的验证。 在tensorflow中提供了ExponentialMovingAverage来实行滑动平均模型,模型会维护一个影子变量,其计算公式为: shadow_vari 阅读全文
posted @ 2018-08-04 11:56 派森蛙 阅读(736) 评论(0) 推荐(0) 编辑
摘要: 机器学习中几乎都可以看到损失函数后面会添加一个额外项,常用的额外项一般有两种,一般英文称作ℓ1-norm和ℓ2-norm,中文称作L1正则化和L2正则化,或者L1范数和L2范数。L2范数也被称为权重衰减(weight decay)。 一般回归分析中回归ww表示特征的系数,从上式可以看到正则化项是对系 阅读全文
posted @ 2018-08-03 23:47 派森蛙 阅读(2924) 评论(0) 推荐(0) 编辑
摘要: 利用CNN卷积神经网络进行训练时,进行完卷积运算,还需要接着进行Max pooling池化操作,目的是在尽量不丢失图像特征前期下,对图像进行downsampling。 首先看下max pooling的具体操作:整个图片被不重叠的分割成若干个同样大小的小块(pooling size)。每个小块内只取最 阅读全文
posted @ 2018-07-27 23:58 派森蛙 阅读(21179) 评论(0) 推荐(1) 编辑
摘要: 一、本节知识预览 1、 怎样遍历图像的每一个像素点? 2、 opencv图像矩阵怎么被存储的? 3、 怎样衡量我们算法的性能? 4、 什么是查表,为什么要使用它们? 二、什么是查表,为什么要使用它们? 假设一张三通道RGB图像,每个像素通道有256种不同颜色取值,那么一个像素点可能有256*256* 阅读全文
posted @ 2018-06-23 17:35 派森蛙 阅读(529) 评论(0) 推荐(0) 编辑
摘要: 原文作者 : Satya Mallick 译者 : aleen42 原文 https://aleen42.gitbooks.io/personalwiki/content/translation/opencv_vs_matlab/opencv_vs_matlab.html https://blog. 阅读全文
posted @ 2018-05-19 01:21 派森蛙 阅读(15616) 评论(0) 推荐(0) 编辑
摘要: 衡量一个回归模型常用的两个参数:皮尔逊相关系数和R平方 一、皮尔逊相关系数 在统计学中,皮尔逊相关系数( Pearson correlation coefficient),又称皮尔逊积矩相关系数(Pearson product-moment correlation coefficient,简称 PP 阅读全文
posted @ 2018-05-03 22:56 派森蛙 阅读(12340) 评论(1) 推荐(1) 编辑
摘要: 一、概率 在引入问题前,我们先复习下数学里面关于概率的基本概念 概率:对一件事发生的可能性衡量 范围:0<=P<=1 计算方法:根据个人置信区间;根据历史数据;根据模拟数据。 条件概率:B发生的条件下,A发生的概率 二、Logistic Regression(逻辑回归) 1、问题引入 处理二值数据时 阅读全文
posted @ 2018-05-03 00:41 派森蛙 阅读(6216) 评论(0) 推荐(0) 编辑