Caffe windows下安装攻略

Caffe 是一个高效的深度学习框架,鉴于不想折腾装个双系统,最近鼓捣了下用caffe源码在windows进行编译。非常感谢Yangqing Jia博士的caffe开源代码、Neil Z.Shao's博客的指导,以及happynear的工程文件提供的帮助。本博客caffe里C/C++部分编译主要参考了Neil Z.Shao's博客,python wapper 和 matlab wapper编译主要参考了happynear的工程文件。鉴于编译过程并未记录下详细流程,步骤不详之处可参考上述两个资料。本博客适合对visual studio 2013和opencv配置有一定了解的同学。

 

1、准备工作

编译环境:windows 7 64位系统 + Visual studio 2013

依赖包:

  • opencv,opencv版本采用的是opencv 3.0,opencv的安装请参考官方toutorials。opencv 3.0相比之前的版本,配置简单了很多。
  • cuda,cuda版本采用的是cuda 7.0,这个可以从nvidia官网下载。
  • Boost,使用的是boost_1_56_0-msvc-12.0-64.exe.
  • OpenBLAS、GFlags、GLog、ProtoBuf、LevelDB、HDF5、LMDB,博主偷懒直接采用了Neil Z.Shao提供的编译好的文件3rdparty.zip。详细编译步骤可以参考其博客,以及另外一个github repository
  • caffe源码,https://github.com/BVLC/caffe
  • python 2.7 以及模块numpy scipy scikit-image matplotlib ipython h5py networkx nose pandas python-dateutil protobuf python-gflags pyyaml Pillow,这些依赖文件在caffe源码下的python文件夹里的requirements.txt里说明,其中leveldb貌似是没有windows版本的,不过缺少这个模块不安装不影响使用。
  • matlab R2014a

2、C/C++编译

  • 新建工程与相应环境配置
  1. 安装opencv、cuda、Boost,这些都有exe文件,安装很直接。
  2. 下载caffe源码,并解压
  3. 下载第三方依赖包3rdparty.zip,并解压至caffe源码下与cmake、data之类文件夹的同级目录,如下图所示        

            image

      4.  打开visual studio 2013 新建win32 控制台工程,并将位置工程的解决方案设在caffe源码下的根目录(具体说就是cmake等文件夹与.sln文件是同级目录)。

      5.   将解决方案平台从win32改至x64(在win32下应该也能编译通过)。修改方法如下图所示:

             image(图片截至Neil Z.Shao's博客)

      6.  编译环境配置:主要是进行解决方案属性配置,debug x86 和 release x86 需要分别进行配置,如果你仅使用其中一个,对一个进行配置即可。

           debug x86 属性配置:

           1) Configuration Properties -> General, Output Directory 设置为‘../bin’(这个文件夹需要新建,主要用于放置编译输出的exe文件,这便于后面使用)

              2) Configuration Properties -> C/C++ -> General, Additional Include Directories 添加caffe源码里的include文件夹,src文件夹,第三方依赖包头文件,cuda头文件,opencv头文件,boost头文件,比如我的配置如下,

              *\caffedev\src;
              *\caffedev\include;
              *\caffedev\3rdparty\include\openblas;
              *\caffedev\3rdparty\include\lmdb;
              *\caffedev\3rdparty\include\hdf5;
              *\caffedev\3rdparty\include;
              *\NVIDIA GPU Computing Toolkit\CUDA\v7.0\include;
              *\opencv\build\include\opencv2;
              *\opencv\build\include\;
              *\opencv\build\include\opencv;
              *\boost_1_56_0

              *省略了软件的安装位置,这个根据你的软件安装位置找到这些文件夹即可。

              3) Configuration Properties -> linker -> General,添加相应的lib文件路径,我的配置如下

              *\caffedev\3rdparty\lib;
              *\boost_1_56_0\lib64-msvc-12.0;
              *\NVIDIA GPU Computing Toolkit\CUDA\v7.0\lib\x64;
              *\opencv\build\x64\vc12\lib;

              *省略了软件的安装位置,这个根据你的软件安装位置找到这些文件夹即可。

              4) Configuration Properties -> linker -> Input ,添加相应lib文件

              opencv_ts300d.lib;opencv_world300d.lib;gflagsd.lib;libglog.lib;libopenblas.dll.a;libprotobufd.lib;libprotoc.lib;leveldbd.lib;lmdbd.lib;libhdf5_D.lib;libhdf5_hl_D.lib;Shlwapi.lib;cudart.lib;cuda.lib;nppi.lib;cufft.lib;cublas.lib;curand.lib

              release x86 属性配置:

              前三步与debug x86 配置一样,第4)步的lib文件需要修改为如下:

              opencv_ts300.lib;opencv_world300.lib;gflags.lib;libglog.lib;libopenblas.dll.a;libprotobuf.lib;libprotoc.lib;leveldb.lib;lmdb.lib;libhdf5.lib;libhdf5_hl.lib;Shlwapi.lib;cudart.lib;cuda.lib;nppi.lib;cufft.lib;cublas.lib;curand.lib

       7.  系统环境变量设置,opencv bin目录添加到系统环境变量的path里。比如我添加的就是

            *\opencv\build\x64\vc12\bin

  • 开始编译

           对于像caffe这种大工程文件,最好的办法就是一个一个文件进行编译[1]。首先将caffe/src/caffe内的cpp文件导入到解决方案里的Source Files文件夹下,下面对这个几个文件进行逐个编译。

       1、 common.cpp文件

  • #include <process.h>添加到common.cpp,修复getpid出错
  • Configuration Properties -> C/C++ -> Preprocessor -> Preprocessor Definitions,添加_CRT_SECURE_NO_WARNINGS修复fopen_s问题
  • 将出错的getpid行替换为:
    #ifndef _MSC_VER 
    pid = getpid(); 
    #else 
    pid = _getpid(); 
    #endif

       2、 blob.cpp文件

  • caffe.proto创建caffe.pb.h文件,下载GeneratePB.bat文件并放置caffe/scripts文件夹下,双击运行即可,再编译blob.cpp文件,应该能编译通过

       3、 net.cpp文件

  • 添加#include “mkstemp.h”(mkstemp.h和mkstemp.cpp已放在3rdpatty里)到io.hpp,可以解决mkstemp缺失问题。
  • io.hpp文件里使用到了close函数的行用如下代码段替换:
    #ifndef _MSC_VER
    close(fd); 
    #else
    _close(fd);
    #endif
  • 用到mkstemp函数的用如下代码段替换:
    #ifndef _MSC_VER 
    char* mkdtemp_result = mkdtemp(temp_dirname_cstr); 
    #else 
    errno_t mkdtemp_result = _mktemp_s(temp_dirname_cstr, sizeof(temp_dirname_cstr)); 
    #endif

       4、solver.cpp文件

  • 添加如下行到solver.cpp里修复snprintf问题。
    // port for Win32 
    #ifdef _MSC_VER 
    #define snprintf sprintf_s 
    #endif

       5、caffe/src/layers文件夹的文件

  • caffe/src/layers文件夹里主要有两种文件.cpp和.cu文件,.cu文件是用到了cuda的代码,要编译这些文件需要进行些设置。首先在Source Files新建一个layers文件夹,并且导入一个.cu文件。
  • PROJECT -> Build Customization

     image(图片截至Neil Z.Shao's博客)

 

  • 右击.cu文件选择属性,Item Type 设为 CUDA C/C++。
  • 将caffe/src/layers文件夹里文件全部导入解决方案里的layers,此时所有.cu文件都具有相同配置属性。
  • 在bnll_layer.cu里修改const float kBNLL_THRESHOLD = 50.为#define kBNLL_THRESHOLD 50.0

       6、caffe/src/util

  • 新建util文件夹,导入caffe源码里util文件夹下的代码,定位到ReadProtoFromBinaryFile函数,修改O_RDONLY 为O_RDONLY | O_BINARY
  • 添加如下行到io.cpp文件
    // port for Win32 
    #ifdef _MSC_VER 
    #define open _open
    #endif
  • 手动修改close() 为_close()。
  • 添加如下行到math_functions.cpp文件以修复__builtin_popcount 和 __builtin_popcountl出错
    #define __builtin_popcount __popcnt
    #define __builtin_popcountl __popcnt

       7、caffe/src/proto

  • 新建proto文件夹,导入caffe/src/proto里通过GeneratePB.bat生成的.cc文件(caffe.pb.cc” 和 “caffe_pretty_print.pb.cc)
  • Configuration Properties -> C/C++ -> Command Line (Both Debug and Release mode)添加 -D_SCL_SECURE_NO_WARNINGS 以修复std::_Copy_impl 不安全问题

        8、caffe.cpp

  • 从caffe/tools里导入caffe.cpp文件
  • 右击解决方案,选build,整个工程应该能顺利编译通过。
  • 无GPU的编译方法
  1. 步骤基本与上述一致,caffe/src/layers不导入.cu文件
  2. 在common.hpp添加宏定义
    #define CPU_ONLY
  • 测试
  • 测试方法请参考Neil Z.Shao's博客,这里不再介绍。

3、python wapper编译

      python wapper编译的资料较少,非常happynear感谢提供的工程文件。主要步骤如下:

  • 新建一个工程,配置方法如上。将caffe.cpp移出工程,添加caffe/python/caffe文件下的_caffe.cpp。
  • Configuration Properties -> C/C++ -> General, Additional Include Directories 添加:

           *\Python27\Lib\site-packages\numpy\core\include;

           *\Python27\include;

  • Configuration Properties -> linker -> General,添加相应的lib文件路径:

         *\Python27\libs;

  • Configuration Properties -> linker -> Input ,添加相应lib文件

         python27.lib

  • Configuration Properties -> linker -> General,Output Directory 设置为..\python\caffe,Targe Name 设为_caffe, Target Extension设为.pyd,Configuration Type设为 Dynamic Library(.dll)。
  • 此时应该能顺利编译通过。
  • 安装相应的python依赖包,这个使用 pip install 命令即可安装。leveldb没有windows版本,这个不安装不影响使用。
  • 若你采用的debug模式编译,需要将3rdparty压缩包bin里的dll文件和boost_python-vc120-mt-1_56.dll拷贝至python/caffe。
  • 在之前的GeneratePB.bat文件添加如下行,双击运行。并将/src/caffe/proto文件夹拷贝至python/caffe下,并在proto文件夹里创建一个名为__init__.py的空文件。
    "../3rdparty/bin/protoc" -I="../src/caffe/proto" --python_out="../src/caffe/proto" "../src/caffe/proto/caffe.proto"
  • 将src/caffe/proto文件拷至python/caffe
  • 将*/python/caffe添加至系统变量。
  • 下载安装Graphviz2.38,并将*\Graphviz2.38\bin添加到系统变量。
  • 这样python文件夹下的大部分功能应该都能使用。

4、matlab wapper编译

matlab wapper编译和python差不多较少。主要步骤如下:

  • 新建一个工程,配置方法如C/C++部分。将caffe.cpp移出工程,添加caffe/matlab/+caffe/private文件下的caffe_.cpp。
  • Configuration Properties -> C/C++ -> General, Additional Include Directories 添加:

           *\MATLAB\R2014a\extern\include;

  • Configuration Properties -> linker -> General,添加相应的lib文件路径:

         *\MATLAB\R2014a\extern\lib\win64\microsoft;;

  • Configuration Properties -> linker -> Input ,添加相应lib文件

         libmex.lib;libmat.lib;libmx.lib

  • Configuration Properties -> linker -> General,Output Directory 设置为..\matlab\+caffe\private,Targe Name 设为caffe_, Target Extension设为.mexw64,Configuration Type设为 Dynamic Library(.dll)。
  • 此时应该能顺利编译通过。
  • 这样matlab\文件夹下的大部分功能应该都能使用。matlab\demo\classification_demo.m 可用于测试是否安装成功,需要用到的训练好的模型可以从这里下载http://dl.caffe.berkeleyvision.org/

5、后记

  • C/C++部分参考Neil Z.Shao's博客,编译还是比较顺利的。python资料比较少,走了些弯路,happynear的工程文件提供了不少帮助,对此表示感谢。

 

reference:

[1] https://initialneil.wordpress.com/2015/01/11/build-caffe-in-windows-with-visual-studio-2013-cuda-6-5-opencv-2-4-9/

[2] http://blog.csdn.net/happynear/article/details/45372231

 

 

 

posted @ 2015-06-14 00:35  trantor  阅读(17095)  评论(1编辑  收藏  举报