くずし字 MNIST データセット（Kuzushiji-MNIST データセット）のダウンロード，画像分類の学習，画像分類の実行

%matplotlib inline
import matplotlib.pyplot as plt
import warnings
warnings.filterwarnings('ignore')   # Suppress Matplotlib warnings
plt.imshow(x_train[0], cmap='gray')
plt.imshow(x_test[0], cmap='gray')

Kuzushiji-MNIST の読み込み

1. 読み込み

   import numpy as np
   x_train = np.load("C:/data/kmnist/kmnist-train-imgs.npz")['arr_0']
   y_train = np.load("C:/data/kmnist/kmnist-train-labels.npz")['arr_0']
   x_test = np.load("C:/data/kmnist/kmnist-test-imgs.npz")['arr_0']
   y_test = np.load("C:/data/kmnist/kmnist-test-labels.npz")['arr_0']
   # 【x_train, x_test, y_train, y_test の numpy ndarray への変換と，値の範囲の調整（値の範囲が 0 ～ 255 であるのを，0 ～ 1 に調整）する】
   print(type(x_train), x_train.shape, np.max(x_train), np.min(x_train))
   print(type(x_test), x_test.shape, np.max(x_test), np.min(x_test))
   print(type(y_train), y_train.shape, np.max(y_train), np.min(y_train))
   print(type(y_test), y_test.shape, np.max(y_test), np.min(y_test))
   

   
2. 確認表示

   %matplotlib inline
   import matplotlib.pyplot as plt
   import warnings
   warnings.filterwarnings('ignore')   # Suppress Matplotlib warnings
   plt.imshow(x_train[0], cmap='gray')
   plt.imshow(x_test[0], cmap='gray')
   

   

ディープラーニングの実行

Kuzushiji-MNIST を用いる．

1. パッケージのインポート，TensorFlow のバージョン確認など

   from __future__ import absolute_import, division, print_function, unicode_literals
   import tensorflow as tf
   from tensorflow.keras import backend as K 
   K.clear_session()
   import numpy as np
   import tensorflow_datasets as tfds
   from tensorflow.keras.preprocessing import image
   
   %matplotlib inline
   import matplotlib.pyplot as plt
   import warnings
   warnings.filterwarnings('ignore')   # Suppress Matplotlib warnings
   

   
2. x_train, x_test, y_train, y_test の numpy ndarray への変換と，値の範囲の調整（値の範囲が 0 〜 255 であるのを，0 〜 1 に調整）

   x_train = x_train.astype("float32") / 255.0
   x_test = x_test.astype("float32") / 255.0
   print(type(x_train), x_train.shape, np.max(x_train), np.min(x_train))
   print(type(x_test), x_test.shape, np.max(x_test), np.min(x_test))
   print(type(y_train), y_train.shape, np.max(y_train), np.min(y_train))
   print(type(y_test), y_test.shape, np.max(y_test), np.min(y_test))
   

   
3. データの確認表示

   class_names = ['0', '1', '2', '3', '4', '5', '6', '7', '8', '9']
   plt.style.use('default')
   plt.figure(figsize=(10,10))
   for i in range(25):
       plt.subplot(5,5,i+1)
       plt.xticks([])
       plt.yticks([])
       plt.grid(False)
       plt.imshow(x_train[i], cmap=plt.cm.binary)
       plt.xlabel(class_names[y_train[i]])
   
   plt.show()
   

   
4. ニューラルネットワークの作成と確認とコンパイル

   最適化器（オプティマイザ）損失関数とメトリクスを設定する．

   2層のニューラルネットワークを作成

   1層目：ユニット数は 128

   2層目：ユニット数は 10

   ADAM を使う場合のプログラム例

   NUM_CLASSES = 10
   
   m = tf.keras.Sequential()
   m.add(tf.keras.layers.Flatten(input_shape=(28, 28)))
   m.add(tf.keras.layers.Dense(units=128, activation='relu'))
   m.add(tf.keras.layers.Dropout(rate=0.5))
   m.add(tf.keras.layers.Dense(units=NUM_CLASSES, activation='softmax'))
   m.compile(optimizer=tf.keras.optimizers.Adam(learning_rate=0.001),
                 loss='sparse_categorical_crossentropy',
                 metrics=['accuracy'])
   

   

   SGD を使う場合のプログラム例

   m = tf.keras.Sequential()
   m.add(tf.keras.layers.Flatten(input_shape=(28, 28)))
   m.add(tf.keras.layers.Dense(units=128, activation='relu'))
   m.add(tf.keras.layers.BatchNormalization())
   m.add(tf.keras.layers.Dropout(rate=0.5))
   m.add(tf.keras.layers.Dense(units=10, activation='softmax'))
   m.compile(optimizer=tf.keras.optimizers.SGD(lr=0.01, momentum=0.9, nesterov=True),
             loss='sparse_categorical_crossentropy',
             metrics=['accuracy'])
   

5. ニューラルネットワークの確認表示

   print(m.summary())
   

   
6. ニューラルネットワークの学習を行う

   EPOCHS = 50
   history = m.fit(x_train, y_train, validation_data=(x_test, y_test), verbose=2, epochs=EPOCHS)
   

   
7. ニューラルネットワークを使い，分類を行う．

   * 訓練(学習）などで乱数が使われるので，下図と違う値になる．

   predictions = m.predict(x_test)
   print(predictions[0])
   

   
8. 正解表示

   テスト画像 0 番の正解を表示

   print(y_test[0])
   

   
9. 訓練の履歴の可視化

   【関連する外部ページ】 訓練の履歴の可視化については，https://keras.io/ja/visualization/

   • 学習時と検証時の，損失の違い

     acc = history.history['accuracy']
     val_acc = history.history['val_accuracy']
     loss = history.history['loss']
     val_loss = history.history['val_loss']
     
     epochs = range(1, len(acc) + 1)
     
     # "bo" は青いドット
     plt.plot(epochs, loss, 'bo', label='Training loss')
     # ”b" は青い実線
     plt.plot(epochs, val_loss, 'b', label='Validation loss')
     plt.title('Training and validation loss')
     plt.xlabel('Epochs')
     plt.ylabel('Loss')
     plt.legend()
     
     plt.show()
     

     
   • 学習時と検証時の，精度の違い

     acc = history.history['accuracy']
     val_acc = history.history['val_accuracy']
     loss = history.history['loss']
     val_loss = history.history['val_loss']
     
     plt.clf()   # 図のクリア
     plt.plot(epochs, acc, 'bo', label='Training acc')
     plt.plot(epochs, val_acc, 'b', label='Validation acc')
     plt.title('Training and validation accuracy')
     plt.xlabel('Epochs')
     plt.ylabel('Accuracy')
     plt.legend()
     
     plt.show()