Windows でディープラーニング環境を整える

【要約】 Windows環境におけるディープラーニングのためのソフトウェアセットアップについて説明している．主な内容としては，基本的な開発環境の構築（Python，Git，CMake，7-Zip，Build Tools for Visual Studio），NVIDIA関連ソフトウェア（ドライバ，CUDAツールキット，cuDNN）のインストール，Python関連パッケージ（NumPy，SciKit-learn，TensorFlow，Keras，MatplotLib，OpenCV，PyTorch）のインストールと設定，そして各種機械学習ライブラリ（Dlib，face_recognition，MTCNN，OpenPose，Tesseract OCR，Mask R-CNN，Meshroom，muZero，OpenAI Gym）のインストールである．各ソフトウェアについて，インストール手順，設定方法，動作確認の方法を示している．GPU利用のための設定や各ツールの基本的な使用方法も示している．全体を通して，コマンドラインの操作を具体的に示している．

【目次】

  1. ニューラルネットワークの基礎
  2. Windows での操作（注意点まとめ）
  3. Windows のセットアップ，便利なフリーソフトウエア
  4. ビルドツール（Build Tools）のインストール
  5. Git, CMake, 7-Zip のインストール
  6. NVIDIA ドライバ，NVIDIA CUDA ツールキット, NVIDIA cuDNN のインストール
  7. Python のインストール，pip と setuptools の更新，Python 開発環境のインストール，PyCharm，Python の種々のパッケージ
  8. numpy, scikit-learn, TensorFlow, Keras, MatplotLib, opencv-python, PyTorch
  9. ディープラーニング応用

注意事項

【サイト内の関連ページ】

まとめページ

Windows 関連

1. ニューラルネットワークの基礎

用語： ニューラルネットワーク，モデル，学習，過学習，ドロップアウト，CNN，転移学習，データ拡張

用語集：別ページ »にまとめ

説明資料: 別ページ にまとめている．

2. Windows エクスプローラーファイル表示，コマンドプロンプトの起動，特殊文字（「\」 と「¥」）

ここでは，Windows エクスプローラーでの隠しファイルと拡張子の表示方法。コマンドプロンプトの通常起動と管理者としての実行，コマンドプロンプトでの「\」 と「¥」を説明する．

3. Windows のセットアップ，便利なフリーソフトウエア

Windows のセットアップ

便利なフリーソフトウェアのインストール

必要なフリーソフトウェアを選択して，インストールする．

FirefoxとGoogle Chromeは高機能なブラウザで，拡張機能を用いてカスタマイズが可能である．Search Everythingは迅速なファイル検索が可能である．Visual Studio CodeとEmacsはテキストエディタである．FileZillaとMobaXtermはファイル転送・リモート接続のために有用である．Kokomiteはマウス拡大，GreenShotはスクリーンショットの撮影・編集に役立つ．

理工学分野のフリーソフトウェア

理工学分野のフリーソフトウェア: 別ページ »で説明

その他，便利な機能をもったフリーソフトウェアの紹介

その他，便利な機能をもったフリーソフトウェアの紹介: 別ページ »で説明

4. Build Tools for Visual Studio 2022（ビルドツール for Visual Studio 2022）

Build Tools for Visual Studio（ビルドツール for Visual Studio）

Build Tools for Visual Studioは，Windowsで動作するMicrosoftの開発ツールセットである．主にC++プログラミングに使用される．このツールセットには，コンパイラ，リンカ，ランタイムライブラリ，その他のビルド関連ツールが含まれる．

【winget を用いたインストールコマンド】

次のコマンドは，Build Tools for Visual Studio 2022と VC2015 再配布可能パッケージをインストールするものである． 

winget install --scope machine Microsoft.VisualStudio.2022.BuildTools
winget install --scope machine Microsoft.VCRedist.2015+.x64

【Build Tools for Visual Studio とVisual Studio の主な違い】

【関連する外部ページ】

Build Tools for Visual Studio 2022（ビルドツール for Visual Studio 2022）の公式ダウンロードページ: https://visualstudio.microsoft.com/ja/visual-cpp-build-tools/

【関連項目】 Build Tools for Visual Studio 2022 のインストール（Windows 上）

Build Tools for Visual Studio 2022 （ビルドツール for Visual Studio 2022），Visual Studio 2022 のインストール（Windows 上）

Build Tools for Visual Studio 2022（ビルドツール for Visual Studio 2022）のインストールは，Visual Studio を使う予定がある場合（よく分からない場合を含む）と，使う予定がない場合（使う予定が無いことが確実な場合）で方法が分かれる．

【サイト内の関連ページ】

5. Git, CMake, 7-Zip のインストール

バージョン管理システム Git のインストール（Windows 上）

Git は、ソフトウェアの開発において使用されているバージョン管理システムである．git clone コマンドは、リモートリポジトリからソースコードをローカルマシンにコピー（クローン）するために使用される．シンプルなコマンドで，リモートリポジトリ全体のコピーや，リモートリポジトリとの同期を行えることが特徴である．

Windows 上で Git をインストールするには，公式ウェブサイト (https://git-scm.com/) から 64-bit Git for Windows Setup をダウンロードし，インストーラーの指示に従ってインストールを進める．ほとんどの設定は既定 (デフォルト) のままで問題ないが，PATH 環境変数の設定画面では 2 番目のオプションを選択することが推奨される．

【サイト内の関連ページ】 Windows での Git のインストール: 別ページ »で説明

【関連する外部ページ】 Git の公式ページ: https://git-scm.com/

CMake のインストール

CMake は，ソフトウェアのビルドプロセスを自動化し，効率的に管理するためのツールである．Windows では，CMake のオプションを確認したい場合には，「cmake-gui」コマンドを使用して，CMake のグラフィカルユーザインタフェースを起動することにより確認ができる．このcmake-guiで，ビルドオプションの設定や，ビルドの実行も可能である．

CMake のダウンロードのページ https://cmake.org/download/ からダウンロードしてインストール

  1. CMake のダウンロードのページを開く

    https://cmake.org/download/

  2. 64ビットWindows のインストーラを選ぶ
  3. ダウンロードしたファイルを実行する．そして，オプションとして「Add CMake to the system PATH for all users」を選ぶ．他のオプションは既定（デフォルト）のままでよい．

【サイト内の関連ページ】

【関連する外部ページ】

7-Zip のインストール

7-Zipは，ファイル圧縮・展開（解凍）ツール

  1. Windows で，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）
  2. 次のコマンドを実行

    次のコマンドは，7-Zip圧縮・展開（解凍）ツールをインストールするものである． 

    winget install --scope machine 7zip.7zip
powershell -command "$oldpath = [System.Environment]::GetEnvironmentVariable(\"Path\", \"Machine\"); $oldpath += \";c:\Program Files\7-Zip\"; [System.Environment]::SetEnvironmentVariable(\"Path\", $oldpath, \"Machine\")"

【関連する外部ページ】

【関連項目】 7-Zip

6. NVIDIA ドライバ，NVIDIA CUDA ツールキット, NVIDIA cuDNN のインストール

GPUとは

GPUは，グラフィックス・プロセッシング・ユニット（Graphics Processing Unit）の略です．その高い並列計算能力から，３次元コンピュータグラフィックス，３次元ゲーム，動画編集，科学計算，ディープラーニングなど，並列処理が必要な幅広い分野で活用されています．

TensorFlow GPU 版

TensorFlowは，Googleが開発した機械学習フレームワークである．Python，C/C++言語から利用可能で，CPU，GPU，TPU上で動作する．TensorFlowの特徴として「データフローグラフ」がある．これは，「データの流れ」を表現するもので，グラフの節点は演算（オペレーション）を，エッジはデータ（テンソル）の流れを表す．TensorFlowを使用することで，音声，画像，テキスト，ビデオなど多様なデータを扱う機械学習アプリケーションの開発が容易になる．2015年11月に初版がリリースされて以来，継続的にバージョンアップが続いている．

TensorFlow GPU 版の動作に必要なもの（2023年4月時点）

古いバージョンである2.4.4 あるいはそれ以前のバージョン のTensorFlow を使う場合は， 最新の NVIDIA cuDNNを使わないこと． 詳しくは，別ページ »で説明

NVIDIA ドライバのインストール（Windows 上）

NVIDIA ドライバとは

NVIDIA ドライバは，NVIDIA製GPUをWindowsシステム上で適切に動作させるための基盤となるソフトウェアです．このドライバをインストールすることにより，GPUの性能を最大限に引き出し，グラフィックス処理はもちろん，CUDAを利用したAI関連アプリケーションなどの計算速度を向上させることが期待できます．

ドライバは通常、NVIDIA公式サイトからダウンロードするか、NVIDIA GeForce Experienceソフトウェアを通じてインストール・更新します。

公式サイト: https://www.nvidia.co.jp/Download/index.aspx?lang=jp

【サイト内の関連ページ】

  1. (再掲) NVIDIA グラフィックス・ボードの確認

    インストールするドライバを選択するために、まずご使用のPCに搭載されているNVIDIAグラフィックス・ボードの種類を確認します。（確認済みであれば、この手順は不要です。） Windows のコマンドプロンプトで次のコマンドを実行します。 

    wmic path win32_VideoController get name
  2. NVIDIA ドライバのダウンロード

    確認したグラフィックス・ボードのモデル名と、お使いのWindowsのバージョン（例: Windows 11, Windows 10 64-bit）に対応するドライバを、以下のNVIDIA公式サイトからダウンロードします．

    https://www.nvidia.co.jp/Download/index.aspx?lang=jp

    サイトの指示に従い、製品タイプ、製品シリーズ、製品ファミリー、OS、言語などを選択して検索し、適切なドライバ（通常は最新のGame Ready ドライバまたはStudio ドライバ）をダウンロードします。

  3. ドライバのインストール

    ダウンロードしたインストーラー（.exeファイル）を実行し、画面の指示に従ってインストールを進めます。「カスタムインストール」を選択すると、インストールするコンポーネント（ドライバ本体、GeForce Experience、PhysXなど）を選ぶことができます。通常は「高速（推奨）」で問題ありません。

    インストール完了後、システムの再起動を求められる場合があります。

    4. NVIDIA CUDA ツールキット 11.8 のインストール（Windows 上）

    CUDAツールキットには、GPUでプログラムを実行するためのライブラリ、`nvcc`コンパイラ、開発ツールなどが含まれています。ここでは`winget`を使ってCUDA 11.8をインストールする手順を示します。

    NVIDIA CUDA ツールキットの概要と注意点

    NVIDIAのGPUを使用して並列計算を行うための開発・実行環境です。

    主な機能: GPU を利用した並列処理のコンパイルと実行、GPU のメモリ管理、C++をベースとした拡張言語（CUDA C/C++）とAPI、ライブラリ（cuBLAS, cuFFTなど）を提供します。

    【NVIDIA CUDA ツールキットの動作に必要なもの】

    • CUDA対応のNVIDIA GPU。
    • 対応するNVIDIA ドライバ。
    • サポートされているバージョンのC++コンパイラ (Visual StudioまたはBuild Toolsをインストール済み)。

    【Windows でインストールするときの一般的な注意点】

    • Windows では，NVIDIA CUDA ツールキットのインストール中は，予期せぬ問題を避けるため、なるべく他のアプリケーションは終了しておくことが推奨されます。
    • インストール後に環境変数が正しく設定されているか確認することが重要です。

    【関連する外部ページ】

    【関連項目】 NVIDIA CUDA ツールキットの概要, NVIDIA CUDA ツールキットの他バージョンのインストール

    1. (再掲) 他のウィンドウを閉じる：インストール中のコンフリクトを避けるため、可能な限り他のアプリケーションを終了します。
    2. Windows で，コマンドプロンプトを管理者権限で起動します。
    3. winget コマンドで CUDA 11.8 をインストールします。

      以下のコマンドは、(必要であれば)NVIDIA GeForce Experienceと、指定したバージョンのNVIDIA CUDA ツールキット (11.8) をインストールします。また、CUDA_HOME 環境変数を設定します（一部のツールで参照されることがあります）。 

      rem グラフィックボードの確認 (参考)
wmic path win32_VideoController get name



rem CUDA Toolkit 11.8 のインストール
winget install --scope machine Nvidia.CUDA --version 11.8

rem CUDA_HOME 環境変数の設定 (システム環境変数として設定)
powershell -command "[System.Environment]::SetEnvironmentVariable(\"CUDA_HOME\", \"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\", \"Machine\")"

      注釈: これは特定のバージョン(11.8)をインストールする例です。他のバージョンをインストールする場合は --version オプションを適宜変更してください（例: --version 11.2）。利用可能なバージョンは winget search Nvidia.CUDA で確認できます。

    4. (重要) ユーザ環境変数 TEMP の設定（日本語ユーザ名の場合）

      Windows のユーザ名に日本語（マルチバイト文字）が含まれている場合、CUDAコンパイラ nvcc が一時ファイルの作成に失敗し、コンパイルが正常に動作しないことがあります（エラーメッセージが表示されない場合もあるため注意が必要です）。この問題を回避するために、ユーザ環境変数 TEMP および TMP を、ASCII文字のみのパス（例: C:\TEMP）に変更します。

      管理者権限のコマンドプロンプトで，次のコマンドを実行して C:\TEMP ディレクトリを作成し、ユーザ環境変数 TEMP と TMP を設定します。 

      mkdir C:\TEMP
powershell -command "[System.Environment]::SetEnvironmentVariable(\"TEMP\", \"C:\TEMP\", \"User\")"
powershell -command "[System.Environment]::SetEnvironmentVariable(\"TMP\", \"C:\TEMP\", \"User\")"

      この設定は、コマンドプロンプトを再起動するか、Windowsに再サインインした後に有効になります。

    NVIDIA cuDNN 8.9.7 のインストール（Windows 上）

    NVIDIA cuDNN

    NVIDIA cuDNN は，NVIDIA CUDA ツールキット上で動作する、高性能なディープラーニング用ライブラリです．畳み込みニューラルネットワーク (CNN) やリカレントニューラルネットワーク (RNN) など，さまざまなディープラーニングモデルのトレーニングと推論を高速化します．

    【cuDNN利用時の注意点: zlibwapi.dll エラー】

    Windows環境でcuDNNを利用するアプリケーションを実行した際に、「Could not locate zlibwapi.dll. Please make sure it is in your library path!」というエラーが表示されることがあります。これは、cuDNNの一部の機能が圧縮ライブラリである zlib に依存しているためです。このエラーが発生した場合は、後述する手順で ZLIB DLL をインストールする必要があります。

    【関連する外部ページ】

    NVIDIA cuDNN のインストール（Windows 上）の概要

    1. NVIDIA Developer Program メンバーシップへの加入: cuDNNのダウンロードには無料のメンバーシップ登録が必要です。

      NVIDIA Developer Program の公式ページ: https://developer.nvidia.com/developer-program

    2. 互換バージョンの選択とダウンロード: インストール済みのCUDAツールキットのバージョン (今回は11.x) に適合するcuDNNのバージョン (今回はv8.9.7) を選択し、Windows用のzipファイルをダウンロードします。
    3. ファイルの展開と配置: ダウンロードしたzipファイルを展開（解凍）し、中のファイル（bin, include, lib フォルダ内）を、CUDAツールキットのインストールディレクトリにコピーします。
    4. (オプション) 環境変数の設定: 必要に応じてシステム環境変数 CUDNN_PATH を設定します。
    5. (必要に応じて) ZLIB DLL のインストール: zlibwapi.dll が見つからないエラーが発生する場合にインストールします。
    6. 動作確認: cuDNNライブラリ (cudnn64_*.dll) にパスが通っているか確認します。

    zlib のインストール（Windows 上）

    1. Windows で，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）
    2. 次のコマンドを実行

      次のコマンドは，zlibをインストールし，パスを通すものである． 

      cd /d c:%HOMEPATH%
rmdir /s /q zlib
git clone https://github.com/madler/zlib
cd zlib
del CMakeCache.txt
rmdir /s /q CMakeFiles\
cmake . -G "Visual Studio 17 2022" -A x64 -T host=x64 -DCMAKE_INSTALL_PREFIX=c:/zlib
cmake --build . --config RELEASE --target INSTALL
powershell -command "$oldpath = [System.Environment]::GetEnvironmentVariable(\"Path\", \"Machine\"); $oldpath += \";c:\zlib\bin\"; [System.Environment]::SetEnvironmentVariable(\"Path\", $oldpath, \"Machine\")"
powershell -command "[System.Environment]::SetEnvironmentVariable(\"ZLIB_HOME\", \"C:\zlib\", \"Machine\")"

    【関連する外部ページ】

    【関連項目】 zlib

    NVIDIA cuDNN 8.9.7 のインストール（Windows 上）

    1. NVIDIA cuDNN のウェブページを開く

      https://developer.nvidia.com/cuDNN

    2. ダウンロードしたいので，cuDNNのところにある「Download cuDNN」をクリック．
    3. cuDNN Downloads のページで「Archive of Previous Releases」をクリック
    4. 「cuDNN 8.x - 1.x」をクリック
    5. ダウンロードしたいバージョンを選ぶ

      ここでは「NVIDIA cuDNN v8.9.7 for CUDA 11.x」を選んでいる．

      このとき，画面の「for CUDA ...」のところを確認し，使用するNVIDIA CUDA のバージョンに合うものを選ぶこと．

    6. Windows にインストールするので Windows 版を選ぶ
    7. NVIDIA Developer Program メンバーシップに入る

      NVIDIA cuDNN のダウンロードのため．

      「Join now」をクリック．その後，画面の指示に従う． 利用者本人が，電子メールアドレス，表示名，パスワード，生年月日を登録．利用条件等に合意．

    8. ログインする
    9. 調査の画面が出たときは，調査に応じる
    10. ライセンス条項の確認
    11. ダウンロードが始まる．
    12. ダウンロードした .zip ファイルを展開（解凍）する． その中のサブディレクトリを確認しておく．

      Windows での展開（解凍）に便利な 7-Zip: 別ページ »で説明

    13. NVIDIA CUDA ツールキットをインストールしたディレクトリを確認する．「C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8」のようになっている．
    14. 確認したら， さきほど展開してできたすべてのファイルとディレクトリを，NVIDIA CUDA ツールキットをインストールしたディレクトリにコピーする
    15. パスが通っていることを確認．

      次の操作により，cudnn64_8.dll にパスが通っていることを確認する．

      Windows のコマンドプロンプトを開き，次のコマンドを実行する．エラーメッセージが出ないことを確認． 

      where cudnn64_8.dll
    16. Windows の システム環境変数 CUDNN_PATH の設定を行う． Windows では， コマンドプロンプトを管理者として開き， 次のコマンドを実行することにより， システム環境変数 CUDNN_PATH の設定を行うことができる．

      コマンドプロンプトを管理者として実行: 別ページ »で説明 

      powershell -command "[System.Environment]::SetEnvironmentVariable(\"CUDNN_PATH\", \"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\", \"Machine\")"

    7. Python のインストール，pip と setuptools の更新，Python 開発環境のインストール，PyCharm，Python の種々のパッケージ

    ① インストールする Python のバージョンの確認

    2022年12月時点では， Python 3.10 を使う．

    Python 3.10 の根拠：

    古いバージョンの TensorFlow，PyTorch を使う予定の場合．

    次により， Python, TensorFlow, PyTorch のバージョンの組み合わせを確認し，それにあったバージョンの Python をインストールする必要がある．

    • 使用する TensorFlow と Python のバージョンの組み合わせの確認

      別ページ »で説明しているので確認すること．

    • 使用する PyTorch と Python のバージョンの組み合わせの確認

      別ページ »で説明しているので確認すること．

    ② Python のインストール

    【Python のインストールでの注意点】

    • Python 64-bit 版を使用してください．
    • Python をシステム領域にインストールすることを推奨する．

      Windowsでは，Python をユーザ領域（既定の設定）またはシステム領域にインストールできる． しかし，ユーザー名に日本語が含まれている場合，Python をユーザ領域にインストールすると問題が発生する可能性がある．システム領域にインストールすることで，ファイルパスに日本語が含まれることを避けることができ，問題を防ぐことができる．

    • TensorFlow 2.10.1 の利用

      TensorFlow 2.10.1 は次のPythonのバージョンと互換性がある: Python 3.10, Python 3.9, Python 3.8, Python 3.7

      この互換性情報は，https://pypi.org/project/tensorflow/2.10/#files で確認できる． 注意点として， TensorFlow 2.10.1 は， Python 3.6以前のバージョン，Python 3.11以降のバージョンではサポートされていない（2024/7時点）． 最新の互換性情報は変更される可能性があるため，https://pypi.org/project/tensorflow/2.10/#files などの公式ドキュメントで再確認すること．

    • Windows では， Python の 3.6.A，3.7.B, 3.8.C, 3.9.D, 3.10.E のように，複数のバージョンの Python を同時にインストールできる．詳しくは，別ページ »で説明

    【インストール手順の詳細（別ページ） 】 Windows での Python のインストール: 別ページ »で説明

    【Python の公式ページ】 https://www.python.org/

    ③ pip と setuptools の更新

    1. Windows で，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）

      Windows で pip を実行するときは，コマンドプロンプトを管理者として開き，それを使って pip を実行することにする．

      コマンドプロンプトを管理者として実行: 別ページ »で説明

    2. 次のコマンドを実行する． 
      python -m pip install -U pip setuptools

    【pip の利用】 Windows では，pip は，次のコマンドで起動できる．

    pip または python -m pip または py -3.10 -m pip のようにバージョン指定．

    Windows では，管理者として実行．

    ④ Windows での Python 開発環境として，Jupyter Qt Console, Jupyter ノートブック (Jupyter Notebook), Jupyter Lab, Nteract, spyder のインストール

    1. Windows で，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）

      Windows で pip を実行するときは，コマンドプロンプトを管理者として開き，それを使って pip を実行することにする．

      コマンドプロンプトを管理者として実行: 別ページ »で説明

    2. 次のコマンドを実行する．

      次のコマンドを実行することにより，pipとsetuptoolsを更新する，Jupyter Notebook，PyQt5、Spyderなどの主要なPython環境がインストールされる． 

      python -m pip install -U pip setuptools requests notebook==6.5.7 jupyterlab jupyter jupyter-console jupytext PyQt5 nteract_on_jupyter spyder

    ⑤ PyCharm のインストール（Windows 上）

    Windows での PyCharm のインストール: 別ページ »で説明

    【他の Python の開発環境】

    ⑥ Jupyter Qt Console, NTeract が起動できるかを確認

    1. numpy, matplotlib のインストール

      Windows では，コマンドプロンプトを管理者として実行し， 次のコマンドを実行する． 

      pip install -U numpy matplotlib
    2. Jupyter Qt Console の起動チェック

      新しくコマンドプロンプトを開き，次のコマンドを実行する． Jupyter Qt Console が開けば OK． 

      jupyter qtconsole
    3. 確認のため，Jupyter Qt Console で，次の Python プログラムを実行する

      Python プログラムの実行: 別ページ »で説明

      Python のまとめ: 別ページ »にまとめ

      次のプログラムは，NumPy と Matplotlib を使用して，0から6までの範囲のsin関数のグラフを描画する．warnings モジュールを使用して Matplotlib の警告表示を抑制し，Matplotlib では，デフォルトのスタイルを使用する． 

      import numpy as np
%matplotlib inline
import matplotlib.pyplot as plt
import warnings
warnings.filterwarnings('ignore')   # Suppress Matplotlib warnings

x = np.linspace(0, 6, 100)
plt.style.use('default')
plt.plot(x, np.sin(x))
    4. nteract の起動チェック

      新しくコマンドプロンプトを開き，次のコマンドを実行する． ntetact が開けば OK． 

      jupyter nteract
    5. 確認のため，nteract で，次の Python プログラムを実行してみる．

      そのために「Start a new notebook」の下の「Python」をクリック，次の Python プログラムを実行する

      次のプログラムは，NumPy と Matplotlib を使用して，0から6までの範囲のsin関数のグラフを描画する．warnings モジュールを使用して Matplotlib の警告表示を抑制し，Matplotlib では，デフォルトのスタイルを使用する． 

      import numpy as np
%matplotlib inline
import matplotlib.pyplot as plt
import warnings
warnings.filterwarnings('ignore')   # Suppress Matplotlib warnings

x = np.linspace(0, 6, 100)
plt.style.use('default')
plt.plot(x, np.sin(x))
    6. Juypter Notebook で，保存のときに，.py ファイルと .ipyrb ファイルが保存されるように設定．（この設定を行わないときは .ipyrb ファイルのみが保存される）
      1. 次のコマンドで，設定ファイルを生成 
        jupyter notebook --generate-config
      2. jupyter/jupyter_notebook_config.py　を編集し，末尾に，次を追加

        c.NotebookApp.contents_manager_class = "jupytext.TextFileContentsManager"

      3. jupyter notebook を起動し，Edit, Edit Notbook Manager を選ぶ．次のように設定する．

        "jupytext": {"formats": "ipynb,py"}

    ⑥ numpy, scikit-learn を使ってみる

    ⑦ Python の種々のパッケージ

    その他，Python パッケージは，必要なものをインストール．次に手順を例示している． 利用者で判断すること．

    8. numpy, scikit-learn, TensorFlow, Keras, MatplotLib, opencv-python, PyTorch

    ① TensorFlow GPU 版 2.10, Keras, MatplotLib, Python 用 opencv-python のインストール

    設定の要点

    システム環境変数 TF_FORCE_GPU_ALLOW_GROWTH の設定: true

    1. Windows で，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）
    2. 使用する Python のバージョンの確認 
      python --version
    3. pip と setuptools の更新

      * 「 python -m pip install ...」は，Python パッケージをインストールするためのコマンド． 

      python -m pip install -U pip setuptools
    4. TensorFlow 関係のパッケージのアンインストール操作

      トラブルの可能性を減らすために，関係のパッケージのアンインストールを行っておく．

      Windows で pip を実行するときは，コマンドプロンプトを管理者として開き，それを使って pip を実行することにする． 

      python -m pip uninstall -y protobuf tensorflow tensorflow-cpu tensorflow-gpu tensorflow-intel tensorflow-text tensorflow-estimator tf-models-official tf_slim tensorflow_datasets tensorflow-hub keras keras-tuner keras-visualizer
    5. TensorFlow 2.10.1 および関連パッケージ（tf_slim，tensorflow_datasets，tensorflow-hub，Keras，keras-tuner，keras-visualizer）のインストール．

      あわせて，TensorFlowの公式ドキュメント，サンプルコード、Kerasの追加モジュールもインストールする．

      pip を用いてインストールする． 

      python -m pip install -U protobuf tensorflow==2.10.1 tf_slim tensorflow_datasets==4.8.3 tensorflow-hub tf-keras keras keras_cv keras-tuner keras-visualizer
python -m pip install git+https://github.com/tensorflow/docs
python -m pip install git+https://github.com/tensorflow/examples.git
python -m pip install git+https://www.github.com/keras-team/keras-contrib.git

      （以下省略）
    6. MatplotLib, Python 用 opencv-python のインストール

      pip を用いてインストール 

      python -m pip install -U  numpy pillow pydot matplotlib seaborn pandas scipy scikit-learn scikit-learn-intelex opencv-python opencv-contrib-python
    7. TensorFlow のバージョン確認

      バージョン番号が表示されれば OK．下の図とは違うバージョンが表示されることがある． 

      python -c "import tensorflow as tf; print( tf.__version__ )"

      次のようなメッセージが出た場合には，メッセージに従い， NVIDIA ドライバ，NVIDIA CUDA ツールキット， NVIDIA cuDNN のインストールを行う． 但し，GPU がない場合には，このメッセージを無視する．

      【サイト内の関連ページ】

    8. TensorFlow パッケージの情報の表示 
      pip show tensorflow
    9. (GPU を使うとき) TensorFlow からGPU が認識できているかの確認

      TensorFlow が GPU を認識できているかの確認は，端末で，次を実行して行う． 

      python -c "from tensorflow.python.client import device_lib; print(device_lib.list_local_devices())"

      実行結果の中に，次のように「device_type: "GPU"」があれば，GPUが認識できている．エラーメッセージが出ていないことを確認しておくこと．

      ここで，GPU があるのに，TensorFlow から認識されていないかもしれない． TensorFlow GPU 版が指定するバージョンの NVIDIA CUDA ツールキット，NVIDIA cuDNN がインストールされていないことが原因かも知れない．

      TensorFlow 2.5 の GPU 版での，cuDNN のバージョンは 8.2，TensorFlow 2.4 の GPU 版での，cuDNN のバージョンは 8.0.5，TensorFlow 2.3, 2.2, 2.1 の GPU 版での，cuDNN のバージョンは 7.6．そして，TensorFlow 1.13 以上 TensorFlow 2.0 までの GPU 版での，cuDNN のバージョンは7.4 が良いようである．

      Windows での NVIDIA ドライバ，NVIDIA CUDA ツールキット 11.8，NVIDIA cuDNN v8.9.7 のインストールと動作確認: 別ページ »で説明

    10. Windows の システム環境変数 TF_FORCE_GPU_ALLOW_GROWTH に，true を設定

      Windows で，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）

      次のコマンドを実行 

      powershell -command "[System.Environment]::SetEnvironmentVariable(\"TF_FORCE_GPU_ALLOW_GROWTH\", \"true\", \"Machine\")"

    ② PyTorch, Torchvision, Caffe2

    Web ブラウザで最新情報を確認ののち，所定のコマンドによりインストールを行う．

    PyTorch の URL: https://pytorch.org/

    1. PyTorch の「はじめよう」の Web ページを開く

      https://pytorch.org/get-started/locally/

    2. 種類を選ぶ

      Windows, pip, Python，NVIDIA CUDA ツールキット 11.3 以上 での実行例

      NVIDIA CUDA ツールキットのバージョンは一致するものを選ぶ． 選択肢として出てこないという場合には， 「install previous versions of PyTorch」をクリックし，そのページの記載に従う．

    3. 「Run the command」のところに，コマンドが表示されるので確認する
    4. 表示されたコマンドを実行．「pip3」は「python -m pip」に読み替える．

      PyTorch 2.3 のインストール手順例は次の通り

      1. Windows で，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）
      2. PyTorch のページを確認

        PyTorch の公式ページ: https://pytorch.org/index.html

      3. 次のようなコマンドを実行（実行するコマンドは，PyTorch のページの表示されるコマンドを使う）．

        次のコマンドを実行することにより， PyTorch 2.3 （NVIDIA CUDA 11.8 用）がインストールされる． 但し，Anaconda3を使いたい場合には別手順になる．

        事前に NVIDIA CUDA のバージョンを確認しておくこと（ここでは，NVIDIA CUDA ツールキット 11.8 が前もってインストール済みであるとする）．

        PyTorch で，GPU が動作している場合には，「torch.cuda.is_available()」により，True が表示される． 

        python -m pip install -U --ignore-installed pip
python -m pip uninstall -y torch torchvision torchaudio torchtext xformers
python -m pip install -U torch torchvision torchaudio numpy --index-url https://download.pytorch.org/whl/cu118

python -c "import torch; print(torch.__version__, torch.cuda.is_available())"
    5. PyTorch のバージョン確認

      次のコマンドを実行．

      * バージョン番号が表示されれば OK． 

      python -c "import torch; print(torch.__version__, torch.cuda.is_available())"
    6. PyTorch の動作確認

      https://pytorch.org/get-started/locally/ に記載のサンプルプログラムを実行してみる

      Python プログラムを実行する 

      from __future__ import print_function
import torch
x = torch.rand(5, 3)
print(x)
exit()
    7. GPU が動作しているか確認

      Python プログラムを実行する 

      import torch
torch.cuda.is_available()
exit()

    9. ディープラーニング応用

    dlib, face_recognition（顔検出，顔のアラインメント，顔のランドマーク，顔認識その他）

    【関連する外部ページ 】

    【インストール手順の詳細（別ページ） 】

    【Dlib のインストール操作 】 Windows では，コマンドプロンプトを管理者として実行し， 次のコマンドを実行する．

    「11.7」のところは，実際にインストールしている NVIDIA CUDA ツールキットのバージョンにあわせること． 

    cd C:\
rmdir /s /q dlib
git clone https://github.com/davisking/dlib
cd dlib
rmdir /s /q build
mkdir build
cd build
del CMakeCache.txt
rmdir /s /q CMakeFiles\
cmake .. -G "Visual Studio 17 2022" -A x64 -T host=x64 ^
    -DCUDA_SDK_ROOT_DIR="c:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v11.8" ^
    -DCUDA_TOOLKIT_ROOT_DIR="c:/Program Files/NVIDIA GPU Computing Toolkit/CUDA/v11.8" ^
    -D CUDA_NVCC_FLAGS="-allow-unsupported-compiler" ^
    -DCUDA_NVCC_FLAGS_DEBUG="-allow-unsupported-compiler" ^
    -DCMAKE_INSTALL_PREFIX=c:/dlib ^
    -DUSE_AVX_INSTRUCTIONS=1

cmake --build . --config RELEASE --target INSTALL -- /m:4

python -m pip uninstall -y dlib
cd C:\
cd dlib
python setup.py build
python setup.py install
python -c "import dlib; print( dlib.__version__ )"

powershell -command "$oldpath = [System.Environment]::GetEnvironmentVariable(\"Path\", \"Machine\"); $oldpath += \";c:\dlib\bin\"; [System.Environment]::SetEnvironmentVariable(\"Path\", $oldpath, \"Machine\")"

cd C:\dlib
cd python_examples
curl -O http://dlib.net/files/mmod_human_face_detector.dat.bz2
curl -O http://dlib.net/files/dlib_face_recognition_resnet_model_v1.dat.bz2
curl -O http://dlib.net/files/shape_predictor_5_face_landmarks.dat.bz2
curl -O http://dlib.net/files/shape_predictor_68_face_landmarks.dat.bz2
"c:\Program Files\7-Zip\7z.exe" x mmod_human_face_detector.dat.bz2
"c:\Program Files\7-Zip\7z.exe" x dlib_face_recognition_resnet_model_v1.dat.bz2
"c:\Program Files\7-Zip\7z.exe" x shape_predictor_5_face_landmarks.dat.bz2
"c:\Program Files\7-Zip\7z.exe" x shape_predictor_68_face_landmarks.dat.bz2
del mmod_human_face_detector.dat.bz2
del dlib_face_recognition_resnet_model_v1.dat.bz2
del shape_predictor_5_face_landmarks.dat.bz2
del shape_predictor_68_face_landmarks.dat.bz2

    Dlib の動作確認のため，次を実行．エラーメッセージが出ずに，顔検出の結果が表示されれば OK とする． 

    cd C:\dlib
cd python_examples
python cnn_face_detector.py mmod_human_face_detector.dat ..\examples\faces\2007_007763.jpg

    【face_recognition のインストール操作 】 Windows では，コマンドプロンプトを管理者として実行し， 次のコマンドを実行する． 

    cd /d c:%HOMEPATH%
rmdir /s /q face_recognition
git clone https://github.com/ageitgey/face_recognition
cd face_recognition
copy C:\dlib\python_examples\shape_predictor_68_face_landmarks.dat .
python setup.py build
python setup.py install

    face_recognition の動作確認のため，次を実行．エラーメッセージが出ずに，顔識別の結果が表示されれば OK とする． 

    mkdir %HOMEPATH%\face_recognition\known_people
mkdir %HOMEPATH%\face_recognition\unknown_pictures
copy %HOMEPATH%\face_recognition\examples\biden.jpg %HOMEPATH%\face_recognition\known_people
copy %HOMEPATH%\face_recognition\examples\obama.jpg %HOMEPATH%\face_recognition\known_people
copy %HOMEPATH%\face_recognition\examples\two_people.jpg %HOMEPATH%\face_recognition\unknown_pictures
cd /d c:%HOMEPATH%\face_recognition
face_recognition --show-distance true known_people unknown_pictures

    ipazc/mtcnn

    【関連する外部ページ 】

    【ipazc/mtcnn のインストール手順（Windows 上） 】

    1. インストール

      Windows では，コマンドプロンプトを管理者として実行し， 次のコマンドを実行する．

      Windows で pip を実行するときは，コマンドプロンプトを管理者として開き，それを使って pip を実行することにする． 

      python -m pip install git+https://github.com/ipazc/mtcnn.git
python -c "import mtcnn; print(mtcnn.__version__)"
    2. 動作確認

      Windows で，コマンドプロンプトを実行． 次のコマンドを実行 

      cd C:\dlib
python

      次の Python プログラムを実行

      mtcnn の公式ページのプログラムを使用 (https://github.com/ipazc/mtcnn)

      Python プログラムを実行する 

      from mtcnn import MTCNN
import cv2

img = cv2.cvtColor(cv2.imread("./examples/faces/2007_007763.jpg"), cv2.COLOR_BGR2RGB)
detector = MTCNN()
detector.detect_faces(img)

    OpenPose （人体の姿勢推定，指のポーズ推定）

    【関連する外部ページ 】

    【インストール手順の詳細（別ページ） 】

    OpenPose の動作確認のため，次を実行．エラーメッセージが出ずに，検出の結果が表示されれば OK とする． 

    cd C:\openpose-1.7.0-binaries-win64-gpu-python3.7-flir-3d_recommended
cd openpose
bin\OpenPoseDemo.exe --video examples\media\video.avi

    Tesseract OCR 5 （文字認識）

    【関連する外部ページ 】

    【インストール手順の詳細（別ページ） 】

    matterplot/masked_rcnn （画像のセグメンテーション）

    matterplot/masked_rcnn の URL: https://github.com/matterport/Mask_RCNN

    Windows では，コマンドプロンプトを管理者として実行し， 次のコマンドを実行する． 

    python -m pip install scikit-image cython
python -m pip install git+https://github.com/philferriere/cocoapi.git#subdirectory=PythonAPI
cd /d c:%HOMEPATH%
rmdir /s /q Mask_RCNN
git clone --recursive https://github.com/matterport/Mask_RCNN
cd Mask_RCNN
python -m pip install -r requirements.txt
python setup.py build
python setup.py install
cd samples/coco

    https://github.com/matterport/Mask_RCNN/blob/master/samples/demo.ipynb に記載のプログラムを実行してみる．

    Meshroom （写真測量，フォトグラメトリ）

    【関連する外部ページ 】

    【Meshroom のインストール操作（Windows 上） 】

    muZero

    Windows では，コマンドプロンプトを管理者として実行し， 次のコマンドを実行する． 

    rmdir /s /q c:\muzero-general
cd c:\
git clone https://github.com/werner-duvaud/muzero-general.git
cd muzero-general
python -m pip install -r requirements.txt

    確認のため実行してみる． 

    python muzero.py
tensorboard --logdir ./results

    OpenAIGym

    Windows では，コマンドプロンプトを管理者として実行し， 次のコマンドを実行する． 

    rmdir /s /q c:\gym
cd c:\
git clone https://github.com/openai/gym.git
cd gym
python -m pip install -e .

    Windowsでのディープラーニング開発環境の構築，さまざまな機械学習ライブラリの導入について，一連のプロセスを解説．