MNIST with FC and CNN

来了来了我们可亲可爱的朋友MNIST~

作为一个超级初级的手写数字数据集,含有60k个全损低清图像作为训练集,10k个作为验证集。每个图像是(28,28,1)范围在[0,255]的整数数字灰阶图像,数字越大代表笔迹越重,即黑底白字。

介于MNIST的特性,想来试试FCCNN之间的区别,当然训练速度仅供参考,模型不同怎么恋爱?我这个小1060也带不动两位巨佬神仙打架。

整理数据

环境

  • Python 3.7.2

  • Tensorflow 1.13 rc2 + Keras

  • CUDA 10.0 / CuDNN 7.4

为了引入gpu接口,我们需要在一开始为keras设置好设备:

1
2
3
import tensorflow as tf
from keras import backend as K
K.tensorflow_backend.set_session(tf.Session(config=tf.ConfigProto(device_count={'gpu':0})))

导入MNIST数据集

导入方式有很多,这里简单阐述两种。

1. 官网

链接:http://yann.lecun.com/exdb/mnist/

界面中四个超显眼的文件就是我们需要下载的文件,点击下载。

这四个文件是纯二进制构成,所以还得编写一些preprocessing functions去读取内容。

下面这个函数的作用是读取path下的文件并返回指定数据集(训练集、测试集)。

1
2
3
4
5
6
7
8
9
10
11
12
13
def load_mnist(path, kind='train'):
labels_path = os.path.join(path, '%s-labels.idx1-ubyte' % kind)
images_path = os.path.join(path, '%s-images.idx3-ubyte' % kind)
with open(labels_path, 'rb') as lbpath:
magic, n = struct.unpack('>II', lbpath.read(8))
labels = np.fromfile(lbpath, dtype=np.uint8)
with open(images_path, 'rb') as imgpath:
magic, num, rows, cols = struct.unpack('>IIII', imgpath.read(16))
images = np.fromfile(imgpath, dtype=np.uint8).reshape(len(labels), 28, 28, 1) #输出shape按需更改,使用FC模型时修改为 28*28*1
return images, labels

train_X, train_Y = load_mnist(".","train")
test_X, test_Y = load_mnist(".","t10k")

读入(28, 28, 1)的张量,留了一个位置为keras的后续操作。

其实相当于对(28, 28)的张量做一个dim_expand(axis=0)

2. Keras.dataset

详见官方文档:

1
2
from keras.datasets import mnist
(train_X, train_Y), (test_X, test_Y) = mnist.load_data()

输出的是(28, 28)的张量,故需要dim_expand回来。

调整输入输出

输入的数值为[0,255]整数,为简化计算与充分利用性能,消除偏移,可以将输入的值转为32位浮点并归一化,使范围控制在[-1,1]以内。

1
2
train_X = (train_X.astype('float32') - 127) / 127
test_x = (test_X.astype('float32') - 127) / 127

为提高分类问题效率,输出上往往使用One-Hot编码。我们将代表Lable的数字转写为长度10的列表:

1
2
3
nb_classes = 10
train_Y = np_utils.to_categorical(train_Y,nb_classes)
test_Y = np_utils.to_categorical(test_Y,nb_classes)

构建模型并训练

模型依旧使用Sequence去构建。本文分别阐述FC与CNN。

FC

线性模型可谓最基础的深度学习模型,即数个全连接层。

1
2
3
4
5
6
model = Sequential()
model.add(Dense(1024, input_shape=(784,), activation='relu',kernel_initializer='he_normal')) # 全连接
model.add(Dropout(0.2)) # 丢弃20% 防收敛
model.add(Dense(512, activation='relu',kernel_initializer='he_normal')) # 全连接
model.add(Dropout(0.2)) # 丢弃20% 防收敛
model.add(Dense(10, activation="softmax")) # 全连接至10个点并Softmax

这里输入的是一行完整的(28*28*1),故需要在前面加载数据集时设置好。

可视化DENSE

总权重数:1,333,770

下面开始训练~

1
2
3
4
5
6
model.compile(optimizer='adam',# 优化器:ADAM
loss='categorical_crossentropy',# 损失函数:交叉熵
metrics=['accuracy'])
model.fit(train_X,train_Y,
epochs=20,batch_size=64,#共重复20个周期,每步使用64个数据
verbose=1,validation_split=0.05)

keras中本身自带了一个将训练集与测试集分离的选项validation_split,我们可以直接选用。

CNN

卷积大法好。

1
2
3
4
5
6
7
model.add(Conv2D(28,(5,5),activation='relu',padding="same",input_shape=(28,28,1))) # 用5*5的卷积核扫一扫
model.add(MaxPooling2D(strides=(2,2))) # 简化特征
model.add(Conv2D(50,(5,5),activation="relu",padding="same",))
model.add(MaxPooling2D(strides=(2,2)))
model.add(Flatten()) # 获取到足够的特征后展平
model.add(Dense(500,activation='relu')) # 全连接一波
model.add(Dense(10, activation='softmax')) # softmax

可视化CNN

总权重数:1,266,288

训练:

1
2
model.compile(optimizer='adam',loss='categorical_crossentropy',metrics=['accuracy'])
model.fit(train_X,train_Y,epochs=10,batch_size=32,verbose=1,validation_split=0.05)

测试结果

FC最后一个epoch

用时: 5s

loss: 0.0603

acc: 0.9815

CNN最后一个epoch

用时: 12s

loss: 0.0337

acc: 0.9881

都是百万级的权重值,让我们来看看它们在实际中效果如何。

实际检测

在前面我们要将生成的模型保存起来以便在其他地方使用,使用函数model.save(path),保存的后缀设为h5,如”./model.h5“

制作图片

这一步可以选用GAN生成,让两个模型分别作为对方的判别器……又是另外一个话题了。

打开我们的PS,新建图像28*28,背景为黑色,用白色画笔歪歪扭扭写一个数字,保存为jpg或其他图片格式。

这个3太漂亮了!

看起来很模糊,但机器不那么认为。

导入模型

我们新建一个py文件,在其中导入模型:

1
2
from keras.models import load_model
model = load_model('mnist_CNN.h5')

导入图片

我们对导入的图片做与输入同样的处理:灰阶、张量形状、浮点、归一化:

1
2
3
4
5
6
import cv2
IMG_PATH = './test.jpg'
img = cv2.imread(IMG_PATH,cv2.IMREAD_GRAYSCALE)
img = img.astype('float32')
img = (img - 127) / 127
# img = img.reshape(28 * 28) # FC

在前后各加一个维度以适配Keras:

1
2
img = np.expand_dims(img, axis=0)
img = np.expand_dims(img, axis=3)

预测结果

接下来就可以用输入通过模型预测输出:

1
result = model.predict(img)

好了让我们来看看result长什么样:

1
2
3
>>> print(result)
[[2.2068052e-15 2.2626651e-08 7.5236384e-10 1.0000000e+00 2.2670581e-12
7.1868915e-09 4.3412695e-14 2.4892768e-09 2.8890987e-13 5.7972017e-12]]

这是……啥?一共十个数数字组成的列表的列表!细心的水友可能发现了,第4个数字有些特别:1.0000000e+00,赫然是一个大1,这也意味着结果是3的可能性最大,与我们输入的图片相符!

对输出稍作处理,我们就能得到一个完整的手写识别处理模块:

1
2
3
4
5
predicts = 0
for i in range(10):
if (result[0][i]>result[0][predicts]):
predicts = i
print (predicts)
Share