这一次我们讲讲keras这个简单、流行的深度学习框架，一个图像分类任务从训练到测试出结果的全流程。
相关的代码、数据都在我们 Git 上，希望大家 Follow 一下这个 Git 项目，后面会持续更新不同框架下的任务。
https://github.com/longpeng2008/LongPeng_ML_Course
01keras是什么
Keras是一个非常流行、简单的深度学习框架，它的设计参考了torch，用Python语言编写，是一个高度模块化的神经网络库，支持GPU和CPU。能够在TensorFlow，CNTK或Theano之上运行。 Keras的特点是能够快速实现模型的搭建， 简单方便地让你实现从想法到实验验证的转化，这都是高效地进行科学研究的关键。
02Keras 安装配置
Keras的安装非常简单，但是需要先安装一个后端框架作为支撑，TensorFlow， CNTK，Theano都可以，但是官网上强烈建议使用TensorFlow作为Keras的后端进行使用。本例以TensorFlow 1.4.0 版本作为Keras的后端进行测试。
sudo pip install tensorflow==1.4.0
sudo pip install keras==2.1.4
通过上面两条命令就可以完成TensorFlow和Keras的安装，此处需要注意的一点是Keras的版本和TensorFlow的版本要对应，否则会出现意外的错误。具体版本对应关系可在网上进行查询。
03Keras 自定义数据
3.1 MNIST实例
MNIST手写字符分类被认为是深度学习框架里的“Hello Word！”，下面简单介绍一下MNIST数据集案例的测试。Keras的官方github的example目录下提供了几个MNIST案例的代码，下载mnist_mlp.py，mnist_cnn.py文件，本地运行即可，其他文件读者也可以自行测试。
3.2 数据定义
前面我们介绍了MNIST数据集实例，很多读者在学习深度学习框架的时候都卡在了这一步，运行完MNIST实例之后无从下手，很大原因可能是因为不知道怎么处理自己的数据集，这一节我们通过一个简单的图像二分类案例，介绍如何实现一个自定义的数据集。
数据处理有几种方式，一种是像MNIST、CIFAR数据集，这些数据集的特点是已经为用户打包封装好了数据。用户只要load_data即可实现数据导入。其实就是事先把数据进行解析，然后保存到.pkl 或者.h5等文件中，然后在训练模型的时候直接导入，输入到网络中；另一种是直接从本地读取文件，解析成网络需要的格式，输入网络进行训练。但是实际情况是，为了某一个项目我们不可能总是找到相应的打包好的数据集供使用，这时候自己建立一个dataset就十分重要。
Keras提供了一个图像数据的数据增强文件，调用这个文件我们可以实现网络数据加载的功能。
此处采用keras的processing模块里的ImageDataGenerator类定义一个图像分类任务的dataset生成器：
train_data_dir = '../../../../datas/head/train/'
validation_data_dir = '../../../../datas/head/val'
# augmentation configuration we will use for training
train_datagen = ImageDataGenerator(
rescale=1. / 255,
shear_range=0.2,
zoom_range=0.2,
horizontal_flip=True)
# augmentation configuration use for testing only rescaling
val_datagen = ImageDataGenerator(rescale=1. / 255)
train_generator = train_datagen.flow_from_directory(
train_data_dir,
target_size=(48, 48),
batch_size=16)
val_generator = val_datagen.flow_from_directory(
validation_data_dir,
target_size=(48, 48),
batch_size=16)
下面简单地介绍一下上面的代码，完整代码请移步Git工程。
Keras的processing模块中提供了一个能够实时进行数据增强的图像生成类ImagGenerator，该类下面有一个函数flow_from_directory，顾名思义该函数就是从文件夹中获取图像数据。关于ImageGenerator更多的使用可以参考官方源码。数据集结构组织如下：
datas/train/left/*.jpg
datas/train/right/*.jpg
datas/val/left/*.jpg
datas/val/right/*.jpg
此处还需要注意的一点是，我们现在进行的是简单的图像分类任务训练，假如要完成语义分割，目标检测等任务，则需要自定义一个类（继承ImageDataGenerator），具体实现可以查询相关代码进行参考。
04Keras 网络搭建
Keras网络模型搭建有两种形式，Sequential 顺序模型和使用函数式API的 Model 类模型。本教程的例子采用一个简单的三层卷积，以及两层全连接和一个分类层组成的网络模型。由于函数式API更灵活方便，因此下面采用函数式方法搭建模型，模型定义如下：
4.1 函数式API
def simpleconv3(input_shape=(48, 48, 3), classes=2):
img_input = Input(shape=input_shape)
bn_axis = 3
x = Conv2D(12, (3, 3), strides=(2, 2), padding='same', name='conv1')(img_input)
x = BatchNormalization(axis=bn_axis, name='bn_conv1')(x)
x = Activation('relu')(x)
x = Conv2D(24, (3, 3), strides=(2, 2), padding='same', name='conv2')(x)
x = BatchNormalization(axis=bn_axis, name='bn_conv2')(x)
x = Activation('relu')(x)
x = Conv2D(48, (3, 3), strides=(2, 2), padding='same', name='conv3')(x)
x = BatchNormalization(axis=bn_axis, name='bn_conv3')(x)
x = Activation('relu')(x)
x = Flatten()(x)
x = Dense(1200, activation='relu')(x)
x = Dense(128, activation='relu')(x)
x = Dense(classes, activation='softmax')(x)
model = Model(img_input, x)
return model
x = Conv2D(12, (3, 3), strides=(2, 2), padding='same', name='conv1')(img_input)
即输出是12通道，卷积核大小3*3，步长为2，padding='same'表示边缘补零
x = BatchNormalization(axis=bn_axis, name='bn_conv1')(x)
axis表示需要归一化的坐标轴，bn_axis=3，由于采用TensorFlow作为后端，因此这句代码表示在通道数坐标轴进行归一化。
x = Flatten()(x) 表示将卷积特征图进行拉伸，以便和全连接层Dense()进行连接。
x = Dense(1200, activation='relu')(x)
Dense()实现全连接层的功能，1200是输出维度，‘relu'表示激活函数，使用其他函数可以自行修改。
最后一层采用‘softmax’激活函数实现分类功能。
最终返回Model，包含网络的输入和输出。
4.2 模型编译
网络搭建完成，在网络训练前需要进行编译，包括学习方法、损失函数、评估标准等，这些参数分别可以从optimizer、loss、metric模块中导入。具体代码如下：
from keras.optimizers import SGD
from keras.losses import binary_crossentropy
from keras.metrics import binary_accuracy
from keras.callbacks import TensorBoard
tensorboard = TensorBoard(log_dir=('./logs')) callbacks = [] callbacks.append(tensorboard)
loss = binary_crossentropy
metrics = [binary_accuracy]
optimizer = SGD(lr=0.001, decay=1e-6, momentum=0.9)
其中callbacks模块包含了TensorBoard， ModelCheckpoint，LearningRateScheduler等功能，分别可以用来可视化模型，设置模型检查点，以及设置学习率策略。
05模型训练、测试
5.1 模型训练
Keras模型训练过程非常简单，只需一行代码，设置几个参数即可，具体代码如下：
history = model.fit_generator(
train_generator,
steps_per_epoch=num_train_samples // batch_size,
epochs=epochs,
callbacks=callbacks,
validation_data=val_generator,
validation_steps=num_val_samples // batch_size)
首先指定数据生成器，train_generator, 前面介绍过；steps_per_epoch是每次epoch循环的次数，通过训练样本数除以batch_size得到；epochs是整个数据集重复多少次训练。
Keras是高度封装的，在模型训练过程中，看不到网络的预测结果和网络的反向传播过程，只需定义好损失函数，事实上，网络定义中的模型输出会包含网络的输入和输出。
5.2 训练过程可视化
keras可以采用tensorboard实现训练过程的可视化。执行完下面的命令就可以在浏览器访问http://127.0.0.1:6006查看效果。
tensorboard --logdir 日志文件路径（默认路径=‘./logs’’）
上面是分别是训练和测试过程的loss和accuracy。
5.3 模型测试
model = simpleconv3()
model.load_weights(model_path, by_name=True)
image_path = '../../../../datas/head/train/0/1left.jpg'
img = Image.open(image_path)
img = img_to_array(img)
img = cv2.resize(img, image_size)
img = np.expand_dims(img, axis=0)
img = preprocess_input(img)
result = model.predict(img, batch_size=1)
print(result)
以上代码简单介绍一下：模型测试流程非常清晰，首先加载模型，加载参数>>将数据输入网络>>模型预测。
06模型保存和导入
model = train_model(model, loss, metrics, optimizer, num_epochs)
os.mkdir('models')
model.save_weights('models/model.h5')
模型训练完成后，仅需用model.save_weights('models/model.h5')一句代码就可以完成模型的保存。同样，模型的导入采用model.load_weights(model_path, by_name=True)，需要注意的是要设置by_name=True，这样就能保证和模型名称一样的参数都能加载到模型，当然模型定义要和参数是匹配的，假如要进行fine-tune我们只需保证需要重新训练或者新加的网络层的名称和预加载模型参数名称不一样就可以。
07总结
以上内容涵盖了采用keras进行分类任务的全部流程，从数据导入、模型搭建、模型训练、测试，模型保存和导入几个方面分别进行了介绍。当然这只是一些基本的应用，还有一些高级、个性化功能需要我们进一步学习，有机会，下一次介绍一下自定义网络层、设置check_point、特征可视化等特性。
