03 2015 档案
摘要:上一篇博文介绍在使用CAFFE中,训练阶段与使用阶段的网络设计有些许差别,这一篇博文我们主要研究下卷积层在两个阶段的不同,在训练阶段,参数的初值,及学习率等参考需要设置,下面分别是K:\deep learning\Caffe\caffe-master\caffe-master\models\bvlc...
阅读全文
摘要:神经网络中,我们通过最小化神经网络来训练网络,所以在训练时最后一层是损失函数层(LOSS),在测试时我们通过准确率来评价该网络的优劣,因此最后一层是准确率层(ACCURACY)。但是当我们真正要使用训练好的数据时,我们需要的是网络给我们输入结果,对于分类问题,我们需要获得分类结果,如下右图最后一层我...
阅读全文
摘要:因为caffe的底层输入是leveldb 或者lmdb形式,因此当我们使用caffe时,需要先将图片统一转化为相应的形式。caffe中有相应的接口可以使用$CAFFEROOT/build/tools/conver_imageset.bin,非常方便。源码在$CAFFEROOT/tools/conve...
阅读全文
摘要:在caffe中测试matlab与caffe是否配置正确,是否可以调用caffe接口,在matlab中运行 $CAFFE_ROOT/matlab/caffe/matcaffe_demo.m出现以下错误,这是由于caffe中只支持matlab R2012b-,而我的机子上装的是R2010a所以报错。所以...
阅读全文
摘要:在RCNN中使用selective search 方法获得bounding box,从github 上下载代码,在ubuntu上的matlab 2014a上运行,出现错误:BLAS loading error: dlopen: cannot load any more object with sta...
阅读全文
摘要:一、雅克比矩阵雅克比矩阵是一阶偏导,假设(x1,x2,....,xn)到(y1,y2,...,ym)的映射,相当于m个n元函数,它的Jacobian Matrix如下该矩阵表示x的微小波动对y的影响。雅克比矩阵与Hessian矩阵不同,hessian矩阵表示二阶偏导。可以用雅克比矩阵表示函数的一阶泰...
阅读全文
摘要:在图像处理中,样本的维度一般都很大,如果在原维度上进行处理,一方面对噪声比较敏感,一方面维度太高,加大训练难度。这时我们就想到了对数据进行降维,如何进行降维呢,肯定是要把那些最能代表原数据的维度保留下来。那如何确定某一维度是否能很好的代表原数据呢,我们使用Principal Component ...
阅读全文
摘要:本文参考 hogo在youtube上的视频 :https://www.youtube.com/watch?v=UcKPdAM8cnI一、理论基础 dropout的提出是为了防止在训练过程中的过拟合现象,那就有人想了,能不能对每一个输入样本训练一个模型,然后在test阶段将每个模型取均值,这样通过所...
阅读全文
摘要:本文参考hogo在youtube上的视频:https://www.youtube.com/watch?v=t2NQ_c5BFOc&index=49&list=PL6Xpj9I5qXYEcOhn7TqghAJ6NAPrNmUBH一、理论基础在训练autoencoder模型时,为了防止过拟合,我们经常采...
阅读全文
摘要:DeepLearn Toolbox是一个非常有用的matlab deep learning工具包,下载地址:https://github.com/dupuleng/DeepLearnToolbox-master要使用它首先要将该工具包添加到matlab的搜索路径中,1、将包复制到matlab 的to...
阅读全文
摘要:开始准备实习,准备把机器学习相关内容再熟悉一遍,一个学期没动,竟有些生疏了,以前把公式推导的溜溜的,现在好多细节都不清楚了。本博文主要介绍SVM的原理部分,对具体的公式不做推导,SVM这一部分公式太多了,懒得去写了。。一、SVM的含义 SVM(support vector machine)是一种二类...
阅读全文
摘要:今天发现了一个很有意思的博客,作者从一个不同的角度来讲神经网络,值得一看http://colah.github.io/
阅读全文
摘要:今天在Ubuntu 下使用document viewer不能打开U盘中的PDF文件,不晓得是被吐糟的加载速度的问题还是其它问题。。貌似还真是加载速度的问题,无力吐糟了
阅读全文
摘要:在UBUNTU下中文输入法比较常用小企鹅输入法fcitx,具体安装方法见http://my.oschina.net/eechen/blog/224291http://my.oschina.net/eechen/blog/224291,但是按照教程安装后为什么还是不能使用我们安装的中文输入法呢,这是由...
阅读全文
摘要:在caffe中所谓的Inner_Product(IP) 层即fully_connected (fc)layer,为什么叫ip呢,可能是为了看起来比较优雅吧。。从CAFFE_ROOT/examples/mnist/lenet.prototxt中截取一段假设conv2的输入是256*27*27,那么co...
阅读全文
摘要:假设现在有一个20类的分类问题,那么最简单的方法就是重新训练一个基于该20类的分类问题。但如果我们已经有一个1000类的模型呢?我们其实不必大费周张的重新训练一个20类的模型,其实两个模型只有最后一层不一样,即一个的输出为1000维,另一个为20维。那么我们完全可以将1000类模型除最后一层的其余层...
阅读全文