本文主要记录适用keras的mlp神经网络训练数字识别模型，提取层隐含层的参数。然后直接用这些参数来计算，预测一张数字图片。
首先看计算过程，输入是一张数字图片。27 ＊ 19的灰度图。由于mlp模型是全连接的。这里我们直接把输入展开成一个1 ＊ 513的向量。分别用输入矩阵乘以训练出来的参数矩阵。
gongsi.png
用于训练的mlp模型非常简单就几行代码,三个隐含层一个激活层
model = Sequential()
model.add(Dense(513, 128))
model.add(Dense(128, 32))
model.add(Dense(32, 10))
model.add(Activation('softmax'))
训练完的模型包含两个文件。一个是模型，一个是参数。
首先直接加载模型
model = keras.models.model_from_json(open('my_model_json_str.json').read())
model.load_weights('my_model_weights.h5')
获取模型中的model.layers
debug模式下可以看到，加载出来的layers就是刚才训练的时候添加的三个隐含层一个激活层：
layers.png
下一步提取每一步的参数：
for layer in model.layers:
weights = layer.get_weights()
因为这个层次比较少，自己也知道有多少层。直接可以这么拿
weight1 = layers[0].get_weights() #包含一个513 ＊ 128的矩阵，和一个1 ＊ 128的向量
weight2 = layers[1].get_weights() #包含一个128 ＊ 32的矩阵，和一个1 ＊ 32的向量
weight3 = layers[2].get_weights() #包含一个32 ＊ 10的矩阵，和一个1 ＊ 10的向量
debug模式下，可以看到每个weight实际上有两个元素
一个是矩阵，另一个是一个一维向量。也就是最上面那个公式中的W和b。
weight1.png
weight2.png
weight3.png
下面直接用输入图片（1 ＊ 513），乘以weight1+b1的到的结果（1 ＊ 128的矩阵），把这个结果再乘以第二层weight2+b2，得到的结果（1 ＊ 32的矩阵）再乘以第三层weight3+b3
得到的结果即逝最终预测结果的向量（1 ＊ 10）。
re1 = np.dot(image,weight11)+weight1[1]
re2 = np.dot(re1,weight21)+weight2[1]
re3 = np.dot(re2,weight31)+weight3[1]
debug模式下查看re3的值：
yuce0.png
十个元素中最大的是第0个，6021。也就是说用这个模型预测的结果是0.
实际上用keras自带的预测函数预测，得到的最终结果也是一致的。只是它的结果做了归一化处理。
modelpredict.png
到这一步，keras训练模型迁移至c++ 或者是java application基本上已经算是完成了一大半，下面就是搬砖活了
