1.caffe初入
1.FrameWork of Caffe
Caffe是一种编程框架，内部提供了一套编程机制，或者说一个模板框架，用以实现GPU并行架构下的机器学习，DeepLearing等算法，能在性能上大幅度提升，相比较
A. Krizhevsky, I. Sutskever, and G. Hinton. ImageNet Classification with Deep Convolutional Neural Networks. Advances in Neural Information Processing Systems, 2012.中的Highperformance convnet而言，对网络的结构具有更高的灵活性，毕竟是一个编程框架，并不是一个实现好的工程，我们可以按照框架定义各种各样的卷积神经网络的结构
2.Caffe的三大不可更改的基本组成结构
caffe具有三个基本都是额原子结构，顾名思义，原子结构就是说不能随意更改，caffe的编程框架就是在这三个原子下实现，它们分别是：Blobs, Layers, and Nets
- Blob
Blob就是一个包装器，在caffe这个流程中，所有的数据都要被包装成blob格式。然后在caffe的架构下进行编程和处理，这点事我们不能随意更改的，因为caffe本身提供了很多已经设计好的函数和类，我们随意更改数据包转器就等于没法再使用其中的函数，你就没法再Caffe的框架下设计深度神经网络。
blob的格式就是（Number，Channel，Height,Width）将数据按照四元组的方式存储，这里由于是处理的图像数据，所以后面三维代表图像的数据格式，Channel代表图像的通道数，如灰度图是1通道，Channel=1，RGB图像是3通道，Channel=3，Height和Width分别是图像的长宽。至于Number则代表Batch，由于内存有限，所以我们进行训练的时候我们只能分批进行，这里还为每个batch设置了一个标识号，后面会看到我们使用随机梯度下降算法(Schocastic gredient descent,SGD)对模型进行训练,其中就是要使用到Batch，blob不仅仅只用来保存深度网路进行前向过程时的数据，还用来保存在后向求梯度过程时的提梯度数据
具体使用方式：
const Dtype* cpu_data() const;
Dtype* mutable_cpu_data()； 上面两中格式分别表示数据的固态模式和和自由模式，blob具有CPU的数据保存和GPU的数据保存，同时blob将数据在CPU和GPU之间的交换封装起来了， 并进行了同步处理，因此我们不需要理会数据在GPU和CPU之间的交互。
-
layer
Layer computation and connections，层是组成网络结构的单位，
层接受下层的数据输出作为输入，通过内部的运算输出，这是卷积神经网络的内容这里不再详细介绍，主要说下Caffe中定义的层的结构的使用和编程方法
A layer takes input through bottom connections and makes output through top connections.
Each layer type defines three critical computations: setup, forward, and backward.
- Setup: initialize the layer and its connections once at model initialization.
- Forward: given input from bottom compute the output and send to the top.
- Backward: given the gradient w.r.t. the top output compute the gradient w.r.t. to the input and send to the bottom. A layer with parameters computes the gradient w.r.t. to its parameters and stores it internally.
以上是官网中对Caffe中网络层的使用定义，和一般的深度学习库类似，，都有三个步骤，1：建立层，包括建立连接关系初始化其中一些变量。2：前向计算过程，接受输入数据并计算出输出，3：后向过程，进行反向梯度的计算，并把梯度保存在层结构中
- Net definition
网络是由层组成的，定义了输入输出，网络各层，就定义了一个网络，官网说法：The net is a set of layers connected in a computation graph – a directed acyclic graph (DAG) to be exact，举一个回归网络的定义：
定义代码如下：
name: "LogReg"
layers {
name: "mnist"
type: DATA
top: "data"
top: "label"
data_param {
source: "input_leveldb"
batch_size: 64
}
}
layers {
name: "ip"
type: INNER_PRODUCT
bottom: "data"
top: "ip"
inner_product_param {
num_output: 2
}
}
layers {
name: "loss"
type: SOFTMAX_LOSS
bottom: "ip"
bottom: "label"
top: "loss"
}实际上，代码只有三层，输入，中间层，输出层，这是一种最基本的单隐层的网络。我们可以使用 Net::Init()对定义的网络进行初始化和检查，初始化包括对一些变量权值初始化，，检查包括对网络的结构的正确性进行检查，因为涉及到网络的上下层连接 关系的匹配和耦合连接 