MNIST データセット（Python を使用）

1. Google Colab へのリンク

Google Colaboratory のページ:

https://colab.research.google.com/drive/1awZ1ex4KbAJ6hw4VfjKwE-kuiNVVHrfJ?usp=sharing

2. 前準備

Python の準備（Windows，Ubuntu 上）

• Windows での Python 3.10，関連パッケージ，Python 開発環境のインストール: 別ページ »で説明
• Ubuntu では，システム Pythonを使うことができる．Python3 開発用ファイル，pip, setuptools のインストール: 別ページ »で説明

【サイト内の関連ページ】

• Python のまとめ: 別ページ »にまとめ
• Google Colaboratory の使い方など: 別ページ »で説明

【関連する外部ページ】

Python の公式ページ: https://www.python.org/

TensorFlow, TensorFlow データセット, Keras, numpy, matplotlib のインストール

Windows の場合

Windows では，コマンドプロン プトを管理者として実行し， 次のコマンドを実行する．

python -m pip install -U tensorflow-gpu tensorflow_datasets keras numpy matplotlib

Ubuntu の場合

Ubuntu では，次のコマンドを実行．

sudo apt -y update
sudo apt -y install python3-numpy python3-matplotlib
sudo pip3 install -U tensorflow-gpu tensorflow_datasets keras 

3. MNIST データセットのロード

1. Windows で，コマンドプロンプトを実行．
2. jupyter qtconsole の起動

   これ以降の操作は，jupyter qtconsole で行う．

   jupyter qtconsole
   

3. パッケージのインポート，TensorFlow のバージョン確認など

   import tensorflow as tf
   import numpy as np
   import tensorflow_datasets as tfds
   
   %matplotlib inline
   import matplotlib.pyplot as plt
   import warnings
   warnings.filterwarnings('ignore')   # Suppress Matplotlib warnings
   

   
4. TensorFlow データセット から MNIST データセット をロード
   • x_train: サイズ 28 × 28 の 60000枚の濃淡画像
   • y_train: 60000枚の濃淡画像それぞれの,種類番号(0 から 9 のどれか)
   • x_test: サイズ 28 × 28 の 10000枚の濃淡画像
   • y_test: 10000枚の濃淡画像それぞれの,種類番号(0 から 9 のどれか)

   結果は，TensorFlow の Tensor である．

   type は型，shape はサイズ，np.max と np.mi は最大値と最小値．

   tensorflow_datasets の loadで， 「batch_size = -1」を指定して，一括読み込みを行っている．

   mnist, mnist_metadata = tfds.load('mnist', with_info = True, shuffle_files=True, as_supervised=True, batch_size = -1)
   x_train, y_train, x_test, y_test = mnist['train'][0], mnist['train'][1], mnist['test'][0], mnist['test'][1]
   print(mnist_metadata)
   

   

4. MNIST データセットの確認

• データセットの中の画像を表示

  MatplotLib を用いて，0 番目の画像を表示する

  NUM = 0
  plt.figure()
  plt.imshow(x_train[NUM,:,:,0], cmap='gray')
  plt.colorbar()
  plt.gca().grid(False)
  plt.show()
  

  
• データセットの情報を表示

  print(mnist_metadata)
  print(mnist_metadata.features["label"].num_classes)
  print(mnist_metadata.features["label"].names)
  

  
• データの確認表示

  MatplotLib を用いて，複数の画像を並べて表示する．

  class_names = ['0', '1', '2', '3', '4', '5', '6', '7', '8', '9']
  plt.style.use('default')
  plt.figure(figsize=(10,10))
  for i in range(25):
      plt.subplot(5,5,i+1)
      plt.xticks([])
      plt.yticks([])
      plt.grid(False)
      plt.imshow(x_train[i], cmap=plt.cm.binary)
      plt.xlabel(class_names[y_train[i]])
  
  plt.show()
  

  
• tf.data.Dataset オブジェクトによるデータセットの生成

  ロード時に「as_supervised=False」としたときは，「image, label = data['image'], data['label']」

  ds_train = mnist['train']
  it = ds_train.cache().shuffle(1000).batch(128).prefetch(tf.data.experimental.AUTOTUNE)
  for data in it.take(1):
      image, label = data[0], data[1]
      print(image)
      print(label)
  

  

5. MNIST データセットのデータフレームへの変換

• データセットをデータフレームに変換

  train = tfds.as_dataframe(mnist['train'], mnist_metadata)
  test = tfds.as_dataframe(mnist['test'], mnist_metadata)
  print(train)
  print(test)
  

  
• データフレームの行列と属性数

  行数は len(＜データフレーム＞), 属性数は len(＜データフレーム＞.columns)

  print(len(train))
  print(len(train.columns))
  print(len(test))
  print(len(test.columns))
  

  
• データセットの先頭 10行をデータフレームに変換

  train = tfds.as_dataframe(mnist['train'].take(10), mnist_metadata)
  test = tfds.as_dataframe(mnist['test'].take(10), mnist_metadata)
  print(train)
  print(test)
  

  
• データフレームの行列と属性数

  行数は len(＜データフレーム＞), 属性数は len(＜データフレーム＞.columns)

  print(len(train))
  print(len(train.columns))
  print(len(test))
  print(len(test.columns))