TensorFlow のパイプラインを用いたMNIST データセットによる学習と分類（TensorFlow データセット，TensorFlow，Python を使用）（Windows 上，Google Colaboratroy の両方を記載）

1. Google Colaboratory での実行

Google Colaboratory のページ:

https://colab.research.google.com/drive/1QvEEivjsqTK3s1QV5yn-COo-HavIlO2U?usp=sharing

2. Windows での実行

REM VC++ ランタイム
winget install --scope machine --id Microsoft.VCRedist.2015+.x64 -e --silent --disable-interactivity --force --accept-source-agreements --accept-package-agreements --override "/quiet /norestart"

REM Build Tools + Desktop development with C++（VCTools）+ 追加コンポーネント（一括）
winget install --scope machine --id Microsoft.VisualStudio.BuildTools -e --silent --disable-interactivity --force --accept-source-agreements --accept-package-agreements --override "--quiet --wait --norestart --nocache --add Microsoft.VisualStudio.Workload.VCTools --includeRecommended --add Microsoft.VisualStudio.Workload.MSBuildTools --add Microsoft.VisualStudio.Component.VC.CMake.Project --add Microsoft.VisualStudio.Component.VC.Llvm.Clang --add Microsoft.VisualStudio.Component.VC.Llvm.ClangToolset --add Microsoft.VisualStudio.Component.Windows11SDK.26100"

winget list Microsoft.VisualStudio.BuildTools

winget install --scope machine --id Python.Python.3.12 -e --silent --disable-interactivity --force --accept-source-agreements --accept-package-agreements --override "/quiet InstallAllUsers=1 PrependPath=1 Include_pip=1 Include_test=0 Include_launcher=1 InstallLauncherAllUsers=1"

python --version

REM Git をシステム領域にインストール
winget install --scope machine --id Git.Git -e --silent --disable-interactivity --force --accept-source-agreements --accept-package-agreements --override "/VERYSILENT /NORESTART /NOCANCEL /SP- /CLOSEAPPLICATIONS /RESTARTAPPLICATIONS /COMPONENTS=""icons,ext\reg\shellhere,assoc,assoc_sh"" /o:PathOption=Cmd /o:CRLFOption=CRLFCommitAsIs /o:BashTerminalOption=MinTTY /o:DefaultBranchOption=main /o:EditorOption=VIM /o:SSHOption=OpenSSH /o:UseCredentialManager=Enabled /o:PerformanceTweaksFSCache=Enabled /o:EnableSymlinks=Disabled /o:EnableFSMonitor=Disabled"

REM 7-Zip をシステム領域にインストール
winget install --scope machine --id 7zip.7zip -e --silent --installer-type msi --disable-interactivity --force --accept-source-agreements --accept-package-agreements --override "/qn /norestart"
REM 7-Zip のパス設定
powershell -NoProfile -Command "$p='C:\Program Files\7-Zip'; $c=[Environment]::GetEnvironmentVariable('Path','Machine'); if((Test-Path $p) -and $c -notlike \"*$p*\"){[Environment]::SetEnvironmentVariable('Path',\"$p;$c\",'Machine')}"

NVIDIA ドライバのインストール（Windows 上）

1. (再掲) NVIDIA グラフィックス・ボードの確認

   インストールするドライバを選択するために、まずご使用のPCに搭載されているNVIDIAグラフィックス・ボードの種類を確認します。（確認済みであれば、この手順は不要です。） Windows のコマンドプロンプトで次のコマンドを実行します。

   wmic path win32_VideoController get name
   

2. NVIDIA ドライバのダウンロード

   確認したグラフィックス・ボードのモデル名と、お使いのWindowsのバージョン（例: Windows 11, Windows 10 64-bit）に対応するドライバを、以下のNVIDIA公式サイトからダウンロードします．

   https://www.nvidia.co.jp/Download/index.aspx?lang=jp

   サイトの指示に従い、製品タイプ、製品シリーズ、製品ファミリー、OS、言語などを選択して検索し、適切なドライバ（通常は最新のGame Ready ドライバまたはStudio ドライバ）をダウンロードします。

3. ドライバのインストール

   ダウンロードしたインストーラー（.exeファイル）を実行し、画面の指示に従ってインストールを進めます。「カスタムインストール」を選択すると、インストールするコンポーネント（ドライバ本体、GeForce Experience、PhysXなど）を選ぶことができます。通常は「高速（推奨）」で問題ありません。

   インストール完了後、システムの再起動を求められる場合があります。

NVIDIA CUDA ツールキット 11.8 のインストール（Windows 上）

CUDAツールキットには、GPUでプログラムを実行するためのライブラリ、`nvcc`コンパイラ、開発ツールなどが含まれています。ここでは`winget`を使ってCUDA 11.8をインストールする手順を示します。

NVIDIA CUDA ツールキットの概要と注意点

NVIDIAのGPUを使用して並列計算を行うための開発・実行環境です。

主な機能: GPU を利用した並列処理のコンパイルと実行、GPU のメモリ管理、C++をベースとした拡張言語（CUDA C/C++）とAPI、ライブラリ（cuBLAS, cuFFTなど）を提供します。

【NVIDIA CUDA ツールキットの動作に必要なもの】

• CUDA対応のNVIDIA GPU。
• 対応するNVIDIA ドライバ。
• サポートされているバージョンのC++コンパイラ (Visual StudioまたはBuild Toolsをインストール済み)。

【Windows でインストールするときの一般的な注意点】

• Windows では，NVIDIA CUDA ツールキットのインストール中は，予期せぬ問題を避けるため、なるべく他のアプリケーションは終了しておくことが推奨されます。
• インストール後に環境変数が正しく設定されているか確認することが重要です。

【関連する外部ページ】

• NVIDIA CUDA ツールキットのアーカイブの公式ページ: https://developer.nvidia.com/cuda-toolkit-archive (他のバージョンが必要な場合)
• NVIDIA CUDA ツールキット の公式ドキュメント: https://docs.nvidia.com/cuda/index.html
• NVIDIA CUDA ツールキットのインストールに関する，NVIDIA CUDA Installation Guide for Windows: https://docs.nvidia.com/cuda/cuda-installation-guide-windows/index.html

【関連項目】 NVIDIA CUDA ツールキットの概要, NVIDIA CUDA ツールキットの他バージョンのインストール

1. (再掲) 他のウィンドウを閉じる：インストール中のコンフリクトを避けるため、可能な限り他のアプリケーションを終了します。
2. Windows で，コマンドプロンプトを管理者権限で起動します。
3. winget コマンドで CUDA 11.8 をインストールします。

   以下のコマンドは、(必要であれば)NVIDIA GeForce Experienceと、指定したバージョンのNVIDIA CUDA ツールキット (11.8) をインストールします。また、CUDA_HOME 環境変数を設定します（一部のツールで参照されることがあります）。

   rem グラフィックボードの確認 (参考)
   wmic path win32_VideoController get name
   
   
   
   rem CUDA Toolkit 11.8 のインストール
   winget install --scope machine Nvidia.CUDA --version 11.8
   
   rem CUDA_HOME 環境変数の設定 (システム環境変数として設定)
   powershell -command "[System.Environment]::SetEnvironmentVariable(\"CUDA_HOME\", \"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\", \"Machine\")"
   

   注釈: これは特定のバージョン(11.8)をインストールする例です。他のバージョンをインストールする場合は --version オプションを適宜変更してください（例: --version 11.2）。利用可能なバージョンは winget search Nvidia.CUDA で確認できます。

4. (重要) ユーザ環境変数 TEMP の設定（日本語ユーザ名の場合）

   Windows のユーザ名に日本語（マルチバイト文字）が含まれている場合、CUDAコンパイラ nvcc が一時ファイルの作成に失敗し、コンパイルが正常に動作しないことがあります（エラーメッセージが表示されない場合もあるため注意が必要です）。この問題を回避するために、ユーザ環境変数 TEMP および TMP を、ASCII文字のみのパス（例: C:\TEMP）に変更します。

   管理者権限のコマンドプロンプトで，次のコマンドを実行して C:\TEMP ディレクトリを作成し、ユーザ環境変数 TEMP と TMP を設定します。

   mkdir C:\TEMP
   powershell -command "[System.Environment]::SetEnvironmentVariable(\"TEMP\", \"C:\TEMP\", \"User\")"
   powershell -command "[System.Environment]::SetEnvironmentVariable(\"TMP\", \"C:\TEMP\", \"User\")"
   

   この設定は、コマンドプロンプトを再起動するか、Windowsに再サインインした後に有効になります。

NVIDIA cuDNN 8.9.7 のインストール（Windows 上）

NVIDIA cuDNN

NVIDIA cuDNN は，NVIDIA CUDA ツールキット上で動作する、高性能なディープラーニング用ライブラリです．畳み込みニューラルネットワーク (CNN) やリカレントニューラルネットワーク (RNN) など，さまざまなディープラーニングモデルのトレーニングと推論を高速化します．

【cuDNN利用時の注意点: zlibwapi.dll エラー】

Windows環境でcuDNNを利用するアプリケーションを実行した際に、「Could not locate zlibwapi.dll. Please make sure it is in your library path!」というエラーが表示されることがあります。これは、cuDNNの一部の機能が圧縮ライブラリである zlib に依存しているためです。このエラーが発生した場合は、後述する手順で ZLIB DLL をインストールする必要があります。

【関連する外部ページ】

• NVIDIA cuDNN の公式ページ（ダウンロードにはDeveloper Programへの登録が必要）: https://developer.nvidia.com/cudnn

NVIDIA cuDNN のインストール（Windows 上）の概要

1. NVIDIA Developer Program メンバーシップへの加入: cuDNNのダウンロードには無料のメンバーシップ登録が必要です。

   NVIDIA Developer Program の公式ページ: https://developer.nvidia.com/developer-program

2. 互換バージョンの選択とダウンロード: インストール済みのCUDAツールキットのバージョン (今回は11.x) に適合するcuDNNのバージョン (今回はv8.9.7) を選択し、Windows用のzipファイルをダウンロードします。
3. ファイルの展開と配置: ダウンロードしたzipファイルを展開（解凍）し、中のファイル（bin, include, lib フォルダ内）を、CUDAツールキットのインストールディレクトリにコピーします。
4. (オプション) 環境変数の設定: 必要に応じてシステム環境変数 CUDNN_PATH を設定します。
5. (必要に応じて) ZLIB DLL のインストール: zlibwapi.dll が見つからないエラーが発生する場合にインストールします。
6. 動作確認: cuDNNライブラリ (cudnn64_*.dll) にパスが通っているか確認します。

zlib のインストール（Windows 上）

1. 次のコマンドを管理者権限のコマンドプロンプトで実行する （手順：Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」）。

次のコマンドは，zlibをインストールし，パスを通すものである．

cd /d c:%HOMEPATH%
rmdir /s /q zlib
git clone https://github.com/madler/zlib
cd zlib
del CMakeCache.txt
rmdir /s /q CMakeFiles
cmake . -A x64 -T host=x64 -DCMAKE_INSTALL_PREFIX=c:/zlib
cmake --build . --config Release --target INSTALL
powershell -command "$oldpath = [System.Environment]::GetEnvironmentVariable(\"Path\", \"Machine\"); $oldpath += \";c:\zlib\bin\"; [System.Environment]::SetEnvironmentVariable(\"Path\", $oldpath, \"Machine\")"
powershell -command "[System.Environment]::SetEnvironmentVariable(\"ZLIB_HOME\", \"C:\zlib\", \"Machine\")"

【関連する外部ページ】

• zlib の公式ページ: https://www.zlib.net/

【関連項目】 zlib

NVIDIA cuDNN 8.9.7 のインストール（Windows 上）

1. NVIDIA cuDNN のウェブページを開く

   https://developer.nvidia.com/cuDNN

2. ダウンロードしたいので，cuDNNのところにある「Download cuDNN」をクリック．
   
3. cuDNN Downloads のページで「Archive of Previous Releases」をクリック
   
4. 「cuDNN 8.x - 1.x」をクリック
   
5. ダウンロードしたいバージョンを選ぶ

   ここでは「NVIDIA cuDNN v8.9.7 for CUDA 11.x」を選んでいる．

   このとき，画面の「for CUDA ...」のところを確認し，使用するNVIDIA CUDA のバージョンに合うものを選ぶこと．

   
6. Windows にインストールするので Windows 版を選ぶ
   
7. NVIDIA Developer Program メンバーシップに入る

   NVIDIA cuDNN のダウンロードのため．

   「Join now」をクリック．その後，画面の指示に従う． 利用者本人が，電子メールアドレス，表示名，パスワード，生年月日を登録．利用条件等に合意．

   
8. ログインする
   
9. 調査の画面が出たときは，調査に応じる
10. ライセンス条項の確認
    
11. ダウンロードが始まる．
    
12. ダウンロードした .zip ファイルを展開（解凍）する． その中のサブディレクトリを確認しておく．
    Windows での展開（解凍）に便利な 7-Zip: 別ページ »で説明
    
13. NVIDIA CUDA ツールキットをインストールしたディレクトリを確認する．「C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8」のようになっている．
    
14. 確認したら， さきほど展開してできたすべてのファイルとディレクトリを，NVIDIA CUDA ツールキットをインストールしたディレクトリにコピーする
    
15. パスが通っていることを確認．

    次の操作により，cudnn64_8.dll にパスが通っていることを確認する．

    Windows のコマンドプロンプトを開き，次のコマンドを実行する．エラーメッセージが出ないことを確認．

    where cudnn64_8.dll
    

    
16. Windows の システム環境変数 CUDNN_PATH の設定を行う． Windows では， コマンドプロンプトを管理者として開き， 次のコマンドを実行することにより， システム環境変数 CUDNN_PATH の設定を行うことができる．
    コマンドプロンプトを管理者として実行: 別ページ »で説明

    powershell -command "[System.Environment]::SetEnvironmentVariable(\"CUDNN_PATH\", \"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\", \"Machine\")"
    

    

TensorFlow 2.10.1 のインストール（Windows 上）

1. 以下の手順を管理者権限のコマンドプロンプトで実行する （手順：Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」）。
2. TensorFlow 2.10.1 のインストール（Windows 上）

   次のコマンドを実行することにより，TensorFlow 2.10.1 および関連パッケージ（tf_slim，tensorflow_datasets，tensorflow-hub，Keras，keras-tuner，keras-visualizer）がインストール（インストール済みのときは最新版に更新）される． そして，Pythonライブラリ（Pillow, pydot, matplotlib, seaborn, pandas, scipy, scikit-learn, scikit-learn-intelex, opencv-python, opencv-contrib-python）がインストール（インストール済みのときは最新版に更新）される．

   python -m pip uninstall -y protobuf tensorflow tensorflow-cpu tensorflow-gpu tensorflow-intel tensorflow-text tensorflow-estimator tf-models-official tf_slim tensorflow_datasets tensorflow-hub keras keras-tuner keras-visualizer
   python -m pip install -U protobuf tensorflow==2.10.1 tf_slim tensorflow_datasets==4.8.3 tensorflow-hub tf-keras keras keras_cv keras-tuner keras-visualizer
   python -m pip install git+https://github.com/tensorflow/docs
   python -m pip install git+https://github.com/tensorflow/examples.git
   python -m pip install git+https://www.github.com/keras-team/keras-contrib.git
   python -m pip install -U pillow pydot matplotlib seaborn pandas scipy scikit-learn scikit-learn-intelex opencv-python opencv-contrib-python
   

Graphviz のインストール

Windows での Graphviz のインストール: 別ページ »で説明

numpy，matplotlib, seaborn, scikit-learn, pandas, pydot のインストール

1. 次のコマンドを管理者権限のコマンドプロンプトで実行する （手順：Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」）。
する．

python -m pip install -U numpy matplotlib seaborn scikit-learn pandas pydot

MNIST データセットのロード

【Python の利用】

Python は，次のコマンドで起動できる．

• Windows では: python または py -3.10 のようにバージョン指定）
• Ubuntu では: python3

Python 開発環境（Jupyter Qt Console, Jupyter ノートブック (Jupyter Notebook), Jupyter Lab, Nteract, Spyder, PyCharm, PyScripterなど）も便利である．

Python のまとめ: 別ページ »にまとめ

TensorFlow の MNIST データセット

1. パッケージのインポート，TensorFlow のバージョン確認など

   from __future__ import absolute_import, division, print_function, unicode_literals
   import tensorflow as tf
   from tensorflow.keras import layers
   from tensorflow.keras import backend as K
   K.clear_session()
   import numpy as np
   import tensorflow_datasets as tfds
   from tensorflow.keras.preprocessing import image
   
   %matplotlib inline
   import matplotlib.pyplot as plt
   import warnings
   warnings.filterwarnings('ignore')   # Suppress Matplotlib warnings
   
   # TensorFlow のバージョン
   print(tf.__version__)
   
   # GPU を利用しているか
   gpus = tf.config.list_physical_devices(device_type = 'GPU')
   if len(gpus)>0:
       print(f">> GPU detected. {gpus[0].name}")
       tf.config.experimental.set_memory_growth(gpus[0], True)
   

   
2. MNIST データセットのロード

   mnist, mnist_info = tfds.load('mnist', with_info = True, shuffle_files=True, as_supervised=True)
   

   

MNIST データセットの確認

1. データセットの中の画像を表示

   fig1 = tfds.show_examples(mnist['train'], mnist_info)
   fig2 = tfds.show_examples(mnist['test'], mnist_info)
   

   
2. データセットの情報を表示

   print(mnist_info)
   print(mnist_info.features["label"].num_classes)
   print(mnist_info.features["label"].names)
   

   

Keras を用いたニューラルネットワークの作成

1. データセットの生成

   ds_train: サイズ 28 × 28 の 60000枚の濃淡画像，60000枚の濃淡画像それぞれのラベル(0 から 9 のどれか)

   ds_test: サイズ 28 × 28 の 60000枚の濃淡画像，60000枚の濃淡画像それぞれのラベル(0 から 9 のどれか)

   ds_train, ds_test = mnist['train'], mnist['test']
   

   
2. 確認のため，データセットの先頭要素を確認してみる

   次により，データセット ds_train, ds_test の先頭要素を確認．

   次のプログラムでは，ds_train, ds_test の先頭要素が，i に得られる． i がタップルであること， そして，i は TensorFlow のテンソルが並んだタップルであることを確認する．

   実行結果からは，次を確認，i の長さは 2，そして，i の中身が 2つであることが分かる．

   • ds_train の先頭要素: 形状 (28, 28, 1) と形状 () のタップル
   • ds_test の先頭要素: 形状 (28, 28, 1) と形状 () のタップル

   for i in ds_train.take(1):
       print(type(i))
       for j in range(len(i)):
           print(type(i[j]))
           print(i[j].shape)
   

   

   for i in ds_test.take(1):
       print(type(i))
       for j in range(len(i)):
           print(type(i[j]))
           print(i[j].shape)
   

   
3. 確認のため，データセットの先頭要素を表示してみる

   「tf.reshape(image, [-1])」では，テンソルをフラット化している．これは，表示を見やすくするため．

   タップルの 0 番目は数値データ， タップルの 1 番目は分類結果のラベル（クラス名）である．

   for image, label in ds_train.take(1):
       print(tf.reshape(image, [-1]))
       print(label)
   

   

   for image, label in ds_test.take(1):
       print(tf.reshape(image, [-1]))
       print(label)
   

   
4. トレーニングパイプライン

   値は，もともと int で 0 から 255 の範囲であるのを， float32 で 0　から 1 の範囲になるように前処理を行う．そして， データセットのシャッフルとバッチも行う．

   def normalize_img(image, label):
     """Normalizes images: `uint8` -> `float32`."""
     return tf.cast(image, tf.float32) / 255., label
   
   SHUFFLE_BUFFER_SIZE = 100000
   BATCH_SIZE=128
   AUTOTUNE = tf.data.experimental.AUTOTUNE
   
   ds_train = ds_train.map(normalize_img, num_parallel_calls=AUTOTUNE)
   ds_train = ds_train.cache().shuffle(buffer_size=SHUFFLE_BUFFER_SIZE).batch(BATCH_SIZE).prefetch(buffer_size=AUTOTUNE)
   

   
5. 評価パイプライン

   値は，もともと int で 0 から 255 の範囲であるのを， float32 で 0　から 1 の範囲になるように前処理を行う．そして， データセットのバッチも行う．

   ds_test = ds_test.map(normalize_img, num_parallel_calls=AUTOTUNE)
   ds_test = ds_test.cache().batch(BATCH_SIZE).prefetch(buffer_size=AUTOTUNE)
   

   
6. モデルの作成と確認
   • ニューラルネットワークの種類： 層構造 (Sequential Model)
   • ニューラルネットワークの構成
     • Flatten の層: 画像（28かける28）を 1次元の配列に変換する．
     • １層目: Dense（全結合），ニューロン（ユニット）の個数: 64
     • ２層目: Dense（全結合），ニューロン（ユニット）の個数: 10
     • ２層目のニューロン（ユニット）の種類: softmax
     • １番目のDense の層と２番目のDense の層の間の結合については，ドロップアウトを行う．

   num_classes = 10
   input_shape = (28, 28)
   m = tf.keras.Sequential(
       [
           tf.keras.Input(shape=input_shape),
           layers.Flatten(),
           layers.Dense(units=64, activation='relu'),
           layers.Dropout(0.5),
           layers.Dense(units=num_classes, activation='softmax')
       ]
   )
   print(m.summary())
   

   
   L2 正則化を行いたいときは 「 tf.keras.layers.Dense(64, activation='relu', kernel_regularizer=tf.keras.regularizers.l2(0.001)),」のようにする．

ニューラルネットワークの学習と検証

1. コンパイル，学習を行う

   オプティマイザ と損失関数とメトリクスを設定する．

   • Keras のオプティマイザのページ: https://keras.io/api/optimizers/
   • Keras の損失関数のページ: https://keras.io/api/losses/
   • Keras のメトリクスのページ: https://keras.io/api/losses/

   ニューラルネットワークの学習は fit メソッドにより行う． 教師データを使用する． 教師データを投入する．

   EPOCHS = 20
   m.compile(
       optimizer=tf.keras.optimizers.Adam(learning_rate=0.001),
       loss='sparse_categorical_crossentropy',
       metrics=['sparse_categorical_crossentropy', 'accuracy']
   )
   history = m.fit(ds_train,
                       batch_size=128,
                       epochs=EPOCHS,
                       validation_data=ds_test,
                       verbose=1)
   

   
   （以下省略）
2. ディープラーニングによるデータの分類

   ds_test を分類してみる．

   print(m.predict(ds_test))
   

   

   それぞれの数値の中で、一番大きいものはどれか？

   m.predict(ds_test).argmax(axis=1)
   

   

   ds_test 内にある正解のラベル（クラス名）を表示する（上の結果と比べるため）

   for i in ds_test:
       print(i[1])
   

   
3. 学習曲線の確認

   過学習や学習不足について確認．

   import pandas as pd
   hist = pd.DataFrame(history.history)
   hist['epoch'] = history.epoch
   print(hist)
   

   

   【関連する外部ページ】 訓練の履歴の可視化については，https://keras.io/ja/visualization/

   • 学習時と検証時の，損失の違い

     acc = history.history['accuracy']
     val_acc = history.history['val_accuracy']
     loss = history.history['loss']
     val_loss = history.history['val_loss']
     
     epochs = range(1, len(acc) + 1)
     
     # "bo" は青いドット
     plt.plot(epochs, loss, 'bo', label='Training loss')
     # ”b" は青い実線
     plt.plot(epochs, val_loss, 'b', label='Validation loss')
     plt.title('Training and validation loss')
     plt.xlabel('Epochs')
     plt.ylabel('Loss')
     plt.legend()
     
     plt.show()
     

     
   • 学習時と検証時の，精度の違い

     acc = history.history['accuracy']
     val_acc = history.history['val_accuracy']
     loss = history.history['loss']
     val_loss = history.history['val_loss']
     
     plt.clf()   # 図のクリア
     plt.plot(epochs, acc, 'bo', label='Training acc')
     plt.plot(epochs, val_acc, 'b', label='Validation acc')
     plt.title('Training and validation accuracy')
     plt.xlabel('Epochs')
     plt.ylabel('Accuracy')
     plt.legend()
     
     plt.show()