Caffe学习使用__运行caffe自带的两个简单例子
为了程序的简洁，在caffe中是不带练习数据的，因此需要自己去下载。但在caffe根目录下的data文件夹里，作者已经为我们编写好了下载数据的脚本文件，我们只需要联网，运行这些脚本文件就行了。
注意：在caffe中运行所有程序，都必须在根目录下进行。
1、mnist实例
mnist是一个手写数字库。mnist最初用于支票上的手写数字识别, 现在成了DL的入门练习库。征对mnist识别的专门模型是Lenet，算是最早的cnn模型了。
mnist数据训练样本为60000张，测试样本为10000张，每个样本为28*28大小的黑白图片，手写数字为0-9，因此分为10类。
首先下载mnist数据
(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh data/mnist/get_mnist.sh Downloading... --2019-09-12 13:09:21-- http://yann.lecun.com/exdb/mnist/train-images-idx3-ubyte.gz 正在解析主机 yann.lecun.com (yann.lecun.com)... 216.165.22.6 正在连接 yann.lecun.com (yann.lecun.com)|216.165.22.6|:80... 已连接。 已发出 HTTP 请求，正在等待回应... 200 OK 长度： 9912422 (9.5M) [application/x-gzip] 正在保存至: “train-images-idx3-ubyte.gz” train-images-idx3-ubyte. 100%[===============================>] 9.45M 23.5KB/s in 14m 22s 2019-09-12 13:23:44 (11.2 KB/s) - 已保存 “train-images-idx3-ubyte.gz” [9912422/9912422]) --2019-09-12 13:23:44-- http://yann.lecun.com/exdb/mnist/train-labels-idx1-ubyte.gz 正在解析主机 yann.lecun.com (yann.lecun.com)... 216.165.22.6 正在连接 yann.lecun.com (yann.lecun.com)|216.165.22.6|:80... 已连接。 已发出 HTTP 请求，正在等待回应... 200 OK 长度： 28881 (28K) [application/x-gzip] 正在保存至: “train-labels-idx1-ubyte.gz” train-labels-idx1-ubyte. 100%[===============================>] 28.20K 54.8KB/s in 0.5s 2019-09-12 13:23:46 (54.8 KB/s) - 已保存 “train-labels-idx1-ubyte.gz” [28881/28881]) --2019-09-12 13:23:46-- http://yann.lecun.com/exdb/mnist/t10k-images-idx3-ubyte.gz 正在解析主机 yann.lecun.com (yann.lecun.com)... 216.165.22.6 正在连接 yann.lecun.com (yann.lecun.com)|216.165.22.6|:80... 已连接。 已发出 HTTP 请求，正在等待回应... 200 OK 长度： 1648877 (1.6M) [application/x-gzip] 正在保存至: “t10k-images-idx3-ubyte.gz” t10k-images-idx3-ubyte.g 100%[===============================>] 1.57M 32.0KB/s in 84s 2019-09-12 13:25:10 (19.3 KB/s) - 已保存 “t10k-images-idx3-ubyte.gz” [1648877/1648877]) --2019-09-12 13:25:10-- http://yann.lecun.com/exdb/mnist/t10k-labels-idx1-ubyte.gz 正在解析主机 yann.lecun.com (yann.lecun.com)... 216.165.22.6 正在连接 yann.lecun.com (yann.lecun.com)|216.165.22.6|:80... 已连接。 已发出 HTTP 请求，正在等待回应... 200 OK 长度： 4542 (4.4K) [application/x-gzip] 正在保存至: “t10k-labels-idx1-ubyte.gz” t10k-labels-idx1-ubyte.g 100%[===============================>] 4.44K --.-KB/s in 0s 2019-09-12 13:25:11 (121 MB/s) - 已保存 “t10k-labels-idx1-ubyte.gz” [4542/4542])
运行成功后，在 data/mnist/目录下有四个文件：
(caffe_src) root@ranxf-TEST:/workdisk/caffe/data/mnist# lst10k-images-idx3-ubyte 训练集样本
t10k-labels-idx1-ubyte 训练集对应标注
train-images-idx3-ubyte 测试集图片
train-labels-idx1-ubyte 测试集对应标注
这些数据不能在caffe中直接使用，需要转换成LMDB数据
(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh examples/mnist/create_mnist.sh Creating lmdb... I0912 13:36:06.644217 3799 db_lmdb.cpp:35] Opened lmdb examples/mnist/mnist_train_lmdb I0912 13:36:06.644412 3799 convert_mnist_data.cpp:88] A total of 60000 items. I0912 13:36:06.644423 3799 convert_mnist_data.cpp:89] Rows: 28 Cols: 28 I0912 13:36:11.209887 3799 convert_mnist_data.cpp:108] Processed 60000 files. I0912 13:36:11.485198 3801 db_lmdb.cpp:35] Opened lmdb examples/mnist/mnist_test_lmdb I0912 13:36:11.485344 3801 convert_mnist_data.cpp:88] A total of 10000 items. I0912 13:36:11.485355 3801 convert_mnist_data.cpp:89] Rows: 28 Cols: 28 I0912 13:36:12.264843 3801 convert_mnist_data.cpp:108] Processed 10000 files. Done.
如果想运行leveldb数据，请运行 examples/siamese/ 文件夹下面的程序。而examples/mnist/ 文件夹是运行lmdb数据
转换成功后，会在 examples/mnist/目录下，生成两个文件夹，分别是mnist_train_lmdb和mnist_test_lmdb，里面存放的data.mdb和lock.mdb，就是我们需要的运行数据。
(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist# cd mnist_test_lmdb/ (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist/mnist_test_lmdb# ls data.mdb lock.mdb (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist/mnist_test_lmdb# cd ../mnist_train_lmdb/ (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist/mnist_train_lmdb# ls data.mdb lock.mdb (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/mnist/mnist_train_lmdb#
接下来是修改配置文件，如果你有GPU且已经完全安装好，这一步可以省略，如果没有，则需要修改solver配置文件。
需要的配置文件有两个，一个是lenet_solver.prototxt，另一个是train_lenet.prototxt.
首先打开lenet_solver.prototxt
(caffe_src) root@ranxf-TEST:/workdisk/caffe# vim examples//mnist/lenet_solver.prototxt
根据需要，在max_iter处设置最大迭代次数，以及决定最后一行solver_mode,是否要改成CPU。（我目前还没有GPU，只能改为CPU）
保存退出后，就可以运行这个例子了
(caffe_src) root@ranxf-TEST:/workdisk/caffe# time sh examples/mnist/train_lenet.sh I0912 13:53:03.622133 4864 caffe.cpp:197] Use CPU. I0912 13:53:03.622301 4864 solver.cpp:45] Initializing solver from parameters: test_iter: 100 test_interval: 500 base_lr: 0.01 display: 100 max_iter: 10000 ………………
………………
I0912 14:05:13.225632 4867 data_layer.cpp:73] Restarting data prefetching from start.
I0912 14:05:13.387485 4864 solver.cpp:414] Test net output #0: accuracy = 0.9913
I0912 14:05:13.387523 4864 solver.cpp:414] Test net output #1: loss = 0.0285459 (* 1 = 0.0285459 loss)
I0912 14:05:13.387529 4864 solver.cpp:332] Optimization Done.
I0912 14:05:13.387535 4864 caffe.cpp:250] Optimization Done.
real 12m9.863s
user 12m12.844s
sys 0m0.236s
CPU运行时候大约13分钟，精度为99%左右。
(caffe) root@test:/opt/caffe# time sh examples/mnist/train_lenet.sh I0924 10:57:55.730465 10305 caffe.cpp:204] Using GPUs 0 I0924 10:57:55.754664 10305 caffe.cpp:209] GPU 0: GeForce GTX TITAN X I0924 10:57:56.068701 10305 solver.cpp:45] Initializing solver from parameters: test_iter: 100 test_interval: 500 base_lr: 0.01 display: 100 max_iter: 10000 lr_policy: "inv" gamma: 0.0001 power: 0.75 momentum: 0.9 weight_decay: 0.0005 snapshot: 5000 snapshot_prefix: "examples/mnist/lenet" solver_mode: GPU device_id: 0 net: "examples/mnist/lenet_train_test.prototxt" train_state { level: 0 stage: "" } ………… ………… I0924 10:58:42.541656 10305 sgd_solver.cpp:284] Snapshotting solver state to binary proto file examples/mnist/lenet_iter_10000.solverstate I0924 10:58:42.546165 10305 solver.cpp:327] Iteration 10000, loss = 0.00301418 I0924 10:58:42.546185 10305 solver.cpp:347] Iteration 10000, Testing net (#0) I0924 10:58:42.783694 10311 data_layer.cpp:73] Restarting data prefetching from start. I0924 10:58:42.792412 10305 solver.cpp:414] Test net output #0: accuracy = 0.9917 I0924 10:58:42.792433 10305 solver.cpp:414] Test net output #1: loss = 0.0296816 (* 1 = 0.0296816 loss) I0924 10:58:42.792439 10305 solver.cpp:332] Optimization Done. I0924 10:58:42.792444 10305 caffe.cpp:250] Optimization Done. real 0m47.216s user 0m48.420s sys 0m10.966s
GPU运行时候大约48秒，精度为99%左右。
2、cifar10实例
cifar10数据训练样本50000张，测试样本10000张，每张为32*32的彩色三通道图片，共分为10类。
下载数据：
(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh data/cifar10/get_cifar10.sh
(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh data/cifar10/get_cifar10.sh Downloading... --2019-09-12 14:08:51-- http://www.cs.toronto.edu/~kriz/cifar-10-binary.tar.gz 正在解析主机 www.cs.toronto.edu (www.cs.toronto.edu)... 128.100.3.30 正在连接 www.cs.toronto.edu (www.cs.toronto.edu)|128.100.3.30|:80... 已连接。 已发出 HTTP 请求，正在等待回应... 200 OK 长度： 170052171 (162M) [application/x-gzip] 正在保存至: “cifar-10-binary.tar.gz” cifar-10-binary.tar.gz 100%[==========================================================================>] 162.17M 39.8KB/s in 1h 43m 2019-09-12 15:52:50 (26.6 KB/s) - 已保存 “cifar-10-binary.tar.gz” [170052171/170052171]) Unzipping... Done.
运行成功后，会在 data/cifar10/文件夹下生成一堆bin文件
(caffe_src) root@ranxf-TEST:/workdisk/caffe/data/cifar10# ll 总用量 180092 drwxr-xr-x 2 root root 4096 9月 12 15:52 ./ drwxr-xr-x 6 root root 4096 9月 10 15:30 ../ -rw-r--r-- 1 2156 1103 61 6月 5 2009 batches.meta.txt -rw-r--r-- 1 2156 1103 30730000 6月 5 2009 data_batch_1.bin -rw-r--r-- 1 2156 1103 30730000 6月 5 2009 data_batch_2.bin -rw-r--r-- 1 2156 1103 30730000 6月 5 2009 data_batch_3.bin -rw-r--r-- 1 2156 1103 30730000 6月 5 2009 data_batch_4.bin -rw-r--r-- 1 2156 1103 30730000 6月 5 2009 data_batch_5.bin -rwxr-xr-x 1 root root 506 9月 10 10:26 get_cifar10.sh* -rw-r--r-- 1 2156 1103 88 6月 5 2009 readme.html -rw-r--r-- 1 2156 1103 30730000 6月 5 2009 test_batch.bin (caffe_src) root@ranxf-TEST:/workdisk/caffe/data/cifar10#
转换数据格式为lmdb：
(caffe_src) root@ranxf-TEST:/workdisk/caffe# sh examples/cifar10/create_cifar10.sh Creating lmdb...
转换成功后，会在 examples/cifar10/文件夹下生成两个文件夹，cifar10_train_lmdb和cifar10_test_lmdb, 里面的文件就是我们需要的文件。
(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10# cd cifar10_train_lmdb/ (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10/cifar10_train_lmdb# ls data.mdb lock.mdb (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10/cifar10_train_lmdb# cd ../cifar10_test_lmdb/ (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10/cifar10_test_lmdb# ls data.mdb lock.mdb (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10/cifar10_test_lmdb#
为了节省时间，我们进行快速训练（train_quick)，训练分为两个阶段，第一个阶段（迭代4000次）调用配置文件cifar10_quick_solver.prototxt, 学习率（base_lr)为0.001
第二阶段（迭代5000次）调用配置文件cifar10_quick_solver_lr1.prototxt, 学习率(base_lr)为0.0001
前后两个配置文件就是学习率(base_lr)和最大迭代次数（max_iter)不一样，其它都是一样。
(caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10# vim cifar10_quick_solver.prototxt (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10# (caffe_src) root@ranxf-TEST:/workdisk/caffe/examples/cifar10# vim cifar10_quick_solver_lr1.prototxt
如果你对配置文件比较熟悉以后，实际上是可以将两个配置文件合二为一的，设置lr_policy为multistep就可以了。
base_lr: 0.001 momentum: 0.9 weight_decay: 0.004 # The learning rate policy # lr_policy: "fixed" lr_policy: "multistep" # Display every 100 iterations display: 100 # The maximum number of iterations max_iter: 4000 # snapshot intermediate results snapshot: 4000 snapshot_prefix: "examples/cifar10/cifar10_quick" # solver mode: CPU or GPU solver_mode: CPU
运行例子：
(caffe_src) root@ranxf-TEST:/workdisk/caffe# time sh examples/cifar10/train_quick.sh I0912 16:23:04.298250 9363 caffe.cpp:197] Use CPU. I0912 16:23:04.298424 9363 solver.cpp:45] Initializing solver from parameters: test_iter: 100 test_interval: 500 base_lr: 0.001 display: 100 max_iter: 4000 lr_policy: "fixed" momentum: 0.9 weight_decay: 0.004 snapshot: 4000 snapshot_prefix: "examples/cifar10/cifar10_quick" solver_mode: CPU
………………
I0912 17:10:29.430344 10100 solver.cpp:474] Snapshotting to HDF5 file examples/cifar10/cifar10_quick_iter_5000.caffemodel.h5
I0912 17:10:29.526800 10100 sgd_solver.cpp:296] Snapshotting solver state to HDF5 file examples/cifar10/cifar10_quick_iter_5000.solverstate.h5
I0912 17:10:29.745208 10100 solver.cpp:327] Iteration 5000, loss = 0.480207
I0912 17:10:29.745240 10100 solver.cpp:347] Iteration 5000, Testing net (#0)
I0912 17:10:49.806242 10103 data_layer.cpp:73] Restarting data prefetching from start.
I0912 17:10:50.642014 10100 solver.cpp:414] Test net output #0: accuracy = 0.7558
I0912 17:10:50.642050 10100 solver.cpp:414] Test net output #1: loss = 0.739888 (* 1 = 0.739888 loss)
I0912 17:10:50.642055 10100 solver.cpp:332] Optimization Done.
I0912 17:10:50.642061 10100 caffe.cpp:250] Optimization Done.
real 47m46.393s
user 47m50.689s
sys 0m0.312
CPU大约48分钟左右，精度75%左右。
以下是GPU运行情况
real 2m6.112s
user 1m23.442s
sys 0m21.771s
