深度学习-Keras框架学习笔记
看了很多前辈对深度学习框架的介绍,虽然很多新人会用TensorFlow,但是Keras代码更加简单精简,更受深度学习初学者的青睐。
Keras是一个高层神经网络API,Keras由纯Python编写而成并基Tensorflow、Theano以及CNTK后端。
Keras在以下场景会大放异彩:
- 简易和快速的原型设计(keras具有高度模块化,极简,和可扩充特性)
- 支持CNN和RNN,或二者的结合
- 无缝CPU和GPU切换
网络层、损失函数、优化器、初始化策略、激活函数、正则化方法都是独立的模块,利用Keras可以使用这些独立的模块来构建自己的模型。
快速开始
Keras的核心数据结构是“模型”,模型是一种组织网络层的方式。Keras中主要的模型是Sequential模型,Sequential是一系列网络层按顺序构成的栈。也可以查看函数式模型来学习建立更复杂的模型
Sequential模型如下
from keras.models import Sequential
model = Sequential()
将一些网络层通过.add()
堆叠起来,就构成了一个模型:
from keras.layers import Dense, Activation
model.add(Dense(units=64, input_dim=100))
model.add(Activation("relu"))
model.add(Dense(units=10))
model.add(Activation("softmax"))
完成模型的搭建后,需要使用.compile()
方法来编译模型:
model.compile(loss='categorical_crossentropy', optimizer='sgd', metrics=['accuracy'])
编译模型时必须指明损失函数和优化器,如果需要的话,也可以自己定制损失函数。Keras的一个核心理念就是简明易用,同时保证用户对Keras的绝对控制力度,用户可以根据自己的需要定制自己的模型、网络层,甚至修改源代码。
from keras.optimizers import SGD
model.compile(loss='categorical_crossentropy', optimizer=SGD(lr=0.01, momentum=0.9, nesterov=True))
完成模型编译后,在训练数据上按batch进行一定次数的迭代来训练网络
model.fit(x_train, y_train, epochs=5, batch_size=32)
当然,也可以手动将一个个batch的数据送入网络中训练,这时候需要使用:
model.train_on_batch(x_batch, y_batch)
随后,可以使用一行代码对我们的模型进行评估,看看模型的指标是否满足我们的要求:
loss_and_metrics = model.evaluate(x_test, y_test, batch_size=128)
或者,可以使用我们的模型,对新的数据进行预测:
classes = model.predict(x_test, batch_size=128)
搭建一个问答系统、图像分类模型,或神经图灵机、word2vec词嵌入器就是这么快。
为了更深入的了解Keras,可以查看一下下面的两个tutorial
新手教程:
安装
Keras使用了下面的依赖包,三种后端必须至少选择一种,我们建议选择tensorflow。
- numpy,scipy
- pyyaml
- HDF5, h5py(可选,仅在模型的save/load函数中使用)
- 如果使用CNN的推荐安装cuDNN
当使用TensorFlow为后端时:
当使用Theano作为后端时:
当使用CNTK作为后端时:
“后端”翻译自backend,指的是Keras依赖于完成底层的张量运算的软件包。
从源码安装Keras时,首先git clone keras的代码:
git clone https://github.com/fchollet/keras.git
接着 cd
到Keras的文件夹中,并运行下面的安装命令:
sudo python setup.py install
你也可以使用PyPI来安装Keras
sudo pip install keras
参考文章:https://keras-cn.readthedocs.io/en/latest/