トップページインストール,運用Windows の種々のソフトウエアのインストールNVIDIA グラフィックスドライバ,NVIDIA CUDA ツールキット 11.5,NVIDIA cuDNN 8.3 のインストール(Windows 上)

NVIDIA グラフィックスドライバ,NVIDIA CUDA ツールキット 11.5,NVIDIA cuDNN 8.3 のインストール(Windows 上)

Windows での,NVIDIA グラフィックスドライバ,NVIDIA CUDA ツールキット 11.5,NIDIA cuDNN 8.3 のインストール,nvcc の使用例をスクリーンショット等で説明する.

このページでは,TensorFlow 2.7 の運用を想定している.TensorFlow の他のバージョンでも同様の手順になる(TensorFlow のインストールは別ページで説明している). CUDA は,NVIDIA社が提供している GPU 用のプラットフォームである. NVIDIA 社のグラフィックスボードが持つ GPU の機能を使うとき,NVIDIA CUDA ツールキット を利用することができる.

GPU は,グラフィックス・プロセッシング・ユニットの略で、コンピュータグラフィックス関連の機能,乗算や加算の並列処理の機能などがある.

NVIDIA CUDA ツールキットの機能である nvcc を動かすには, マイクロソフト C++ ビルドツールのインストールが必要になる. マイクロソフト C++ ビルドツール 2019(Build Tools for Visual Studio 2019)のインストールは, 別ページで説明している.

【このページの目次】

  1. 前準備
  2. NVIDIA グラフィックスドライバ,NVIDIA CUDA ツールキットのインストール
  3. インストール後の確認
  4. NVIDIA cuDNN 8.3 のインストール
  5. nvcc を動かしてみる(マイクロソフト C++ ビルドツールを使用)

【サイト内の関連ページ】

● 実演ビデオ(YouTube)「NVIDIA グラフィックスドライバ,NVIDIA CUDA ツールキット 10.1, cuDNN 7.6 のインストール (Windows 上)」

動画リンク: https://www.youtube.com/watch?v=5ZI2M-0mJFo

先人に感謝.

参考Webページ:

前準備

マイクロソフト C++ ビルドツール (Build Tools) のインストール

マイクロソフト C++ ビルドツールもしくはVisual Studio を,前もってインストールしておく. NVIDIA CUDA ツールキットの nvcc の動作に必要. Windows での マイクロソフト C++ ビルドツール (Build Tools) のインストール手順: 別ページで説明している.

(NVIDIA GPU を使うとき)使用する TensorFlow のバージョンを確認の上,Python と NIDIA CUDA ツールキットとNIDIA cuDNN のバージョンを確認

TensorFlow は,そのバージョンによって,必要となる Python,NVIDIA CUDA ツールキットNVIDIA cuDNNバージョンが違う.必ずしも,「最新の NVIDIA CUDA ツールキット,NVIDIA cuDNN で動く」ということではないので,注意が必要である. そのことは,https://www.tensorflow.org/install/gpu で確認できる.

そこで, まずは,使用したい TensorFlow のバージョンにより, 必要な Python, NVIDIA CUDA ツールキットNVIDIA cuDNN のバージョンを決める.

指定されているバージョンより高いものは使わない. その根拠は次のページ. URL: https://www.tensorflow.org/install/source#common_installation_problems

Windows では,NVIDIA CUDA ツールキットはバージョンごとにディレクトリ名が変わる.そのため,複数バージョンの同時インストールが可能である.そして,NVIDIA cuDNN は,ディレクトリを自由に決めることができるので,複数バージョンの同時インストールが可能である.

NVIDIA グラフィックスドライバ,NVIDIA CUDA ツールキットのインストール

ダウンロードとインストールの手順

参考Webページ: http://docs.nvidia.com/cuda/cuda-quick-start-guide/index.html

  1. NVIDIA CUDA ツールキットのウェブページを開く

    https://developer.nvidia.com/cuda-toolkit-archive

  2. NVIDIA CUDA ツールキットのバージョンを選ぶ

    古い版の TensorFlow のために古い版の NVIDIA CUDA ツールキットを必要とするときは,必要な版を選ぶ

    例えば, TensorFlow 1.15 GPU 版: Python は Python 3.7 または Python 3.6 (https://pypi.org/project/tensorflow/1.15.5/#files),NVIDIA CUDA ツールキット のバージョンは 10.0 (10.1 以上は不可), NVIDIA cuDNN のバージョンは 7 系列 (8 系列では動かない).根拠は次のページ.

    URL: https://www.tensorflow.org/install/source#common_installation_problems

    ここでは,TensorFlow 2.7 のために,NVIDIA CUDA ツールキットの11.5を選んでいる

    [image]
  3. Windows」,「10」,「exe [local]」を選ぶ.

    Windows 11 のときは,「11」を選んでください.

    [image]
  4. Base Installer」の右横の「Download」をクリックして,.exe ファイルをダウンロード

    [image]
  5. exe ファイルのダウンロードが始まる

    [image]
  6. ダウンロードした .exe ファイルを実行する.

    [image]
  7. 展開(解凍)先ディレクトリ(フォルダ)の指定.

    既定(デフォルト)のままでよい.「OK」をクリック.

    [image]
  8. 展開(解凍)が自動で行われるので,しばらく待つ.

    [image]
  9. ライセンス条項の確認

    [image]
  10. インストールオプションは,「カスタム(詳細)」を選び,「次へ」をクリック.

    [image]
  11. コンポーネントを確認する.

    CUDA」にチェックする.その他は,必要なものがあればチェックする.「次へ」をクリック.

    このとき,NVIDIA グラフィックスドライバを選択することもできる(NVIDIA グラフィックスドライバが未インストールであれば,インストールする).

    このとき,処理に時間がかかる場合がある.処理が終わるのを待つ.

    [image]

    複数の版の CUDA ツールキットをインストールする場合には,古い版のCUDA ツールキットをインストールするときに「CUDA」だけを選ぶようにする.

  12. インストール場所の選択は,既定(デフォルト)のままでよい.「次へ」をクリック.

    [image]
  13. Visual Studio Integration について表示された場合には,「NEXT」をクリック.

    表示されなくても問題はない.

    [image]

    Visual Studio をインストールしていないときは、インストールが始まる前に確認表示が出る。

  14. このとき,Windows セキュリティの画面が開くことがある.開いた場合には,「インストール」をクリック.
  15. インストールが始まるので,確認する.

    [image]

    インストール開始後にエラーが出る、その先に進めない (インストールが失敗に終わる)という場合がある.

    失敗したときは、次のように操作することで,解決できる場合がある.

    1. もう1度、インストーラを起動.
    2. 「カスタムインストールオプション」のところまで進む.
    3. 「CUDA」の左横の「+」をクリックして展開する.
    4. 「Visual Studio Integration」のチェックを外す
    5. インストールを続ける.
  16. このとき,ディスプレイアダプターのインストールが始まる場合がある.「インストール」をクリックして,インストールを続行する.
  17. Visual Studio がインストール済みのときは,Nsight for Visual Studio がインストールされたことが確認できる.確認したら「次へ」をクリック.

    [image]

    Visual Studio をインストールしていないときは,Nsight for Visual Studio はインストールされない.

  18. インストール終了の確認.「閉じる」をクリック.

    [image]

    ※ 「コンピュータを再起動してください」と表示される場合がある.そのときは,再起動する.

  19. GeForce Experience が自動で開く場合がある

インストール後の確認

環境変数の確認

Windows のシステム環境変数自動で設定されていることを確認

nvcc の確認

nvcc にパスが通っていることを確認する

Windowsのコマンドプロンプトを開き、次のコマンドを実行.

where nvcc

[image]

NVIDIA cuDNN 8.3 のインストール

要点

ダウンロードとインストールの手順

  1. NVidia の cuDNN のウェブページを開く

    https://developer.nvidia.com/cuDNN

  2. ダウンロードしたいので,cuDNNのところにある「Download cuDNN」をクリック.

    [image]
  3. メンバーシップに入る

    「Join now」をクリック.その後,画面の指示に従う.

    [image]
  4. ログインする

    [image]
  5. 調査の画面が出たときは,調査に応じる
  6. ライセンス条項の確認

    [image]
  7. ダウンロードしたいバージョンを選ぶ

    ファイルを選ぶときの注意点:

    • TensorFlow 2.7 の GPU 版での,cuDNN のバージョンは 8.3 系列(2021/11 時点で,NVIDIA CUDA ツールキット 11.5 で動く最新版).
    • TensorFlow 2.6, TensorFlow 2.5 の GPU 版での,cuDNN のバージョンは 8.2 系列
    • TensorFlow 2.4 の GPU 版での,cuDNN のバージョンは 8.0.5(現時点で,NVIDIA CUDA ツールキット 11.0 で動く最新版).
    • TensorFlow 2.3, 2.2, 2.1 の GPU 版での,cuDNN のバージョンは 7.6
    • TensorFlow 1.13 以上 TensorFlow 2.0 までの GPU 版での,cuDNN のバージョンは7.6.57.4.2 などの 7 系列を使う.8 系列は使わないこと.
    • for CUDA x.x」のところ: インストールした NVIDIA CUDA ツールキットのバージョン に合うものを選ぶこと.
    • 古いバージョンは「Archived cuDNN Releases」をクリック.

    [image]
  8. Windows 版が欲しいので Windows 版を選ぶ

    [image]
  9. ダウンロードが始まる.

    [image]
  10. ダウンロードした .zip ファイルを展開(解凍)する.展開の結果 cuda という名前のディレクトリができる.その中のサブディレクトリを確認しておく.

    Windows での展開(解凍)のためのソフトには,「7-Zip」などがある.

    [image]
  11. CUDA ツールキットをインストールしたディレクトリ」は,「C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.5」 のようになっている.確認する.

    [image]
  12. 確認したら, さきほど展開してできたディレクトリcuda の下にあるすべてのファイルとディレクトリを,「CUDA ツールキットをインストールしたディレクトリ」にコピーする

    [image]

インストール後に行う環境変数の設定

CUDA ツールキットをインストールしたディレクトリ」をもとに環境変数を設定する.

CUDA ツールキットをインストールしたディレクトリ」が C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.5 の場合には,次のように設定する.

パスの確認

次の操作により,cudnn64_8.dllパスが通っていることを確認する

Windowsのコマンドプロンプトを開き、次のコマンドを実行.エラーメッセージが出ないことを確認.

where cudnn64_8.dll

[image]

nvcc を動かしてみる(マイクロソフト C++ ビルドツールを使用)

マイクロソフト C++ ビルドツール (Build Tools) のインストール

Windows での マイクロソフト C++ ビルドツール (Build Tools) のインストール手順: 別ページで説明している.

nvcc を動かしてみる

  1. C/C++ をコマンドで使いたいので,Visual Studio の x64 Native Tools コマンドプロンプトを開く.

    起動は,Windows のメニューで「Visual Studio 20..」の下の「x64 Native Tools コマンドプロンプト (x64 Native Tools Command Prompt)」を選ぶ.「x64」は,64ビット版の意味である.

    ※ 32ビットのNative Tools コマンドプロンプトでは nvcc が動かない

    以下の操作は,x64 Native Tools コマンドプロンプトで行う

  2. 確認のため,「where cl」を実行.

    エラーメッセージが出ていないことを確認.

    where cl
    

    [image]
  3. nvccの動作確認のため,

    https://devblogs.nvidia.com/easy-introduction-cuda-c-and-c/に記載のソースコードを使用. まず,エディタを開く(ここでは「メモ帳」を使っている).

    x64 Native Tools コマンドプロンプト で,次のコマンドを実行. ファイル名は hello.cu としている.

    cd %HOMEPATH%
    notepad hello.cu
    

    [image]

    その後,ファイルを編集し,ファイルを保存.

    エディタで hello.cuのようなファイル名で保存.

    [image]
  4. ビルドと実行.

    「nvcc hello.cu」で a.exp というファイルができる. 「Max error: 0.000000」と表示されればOK.

    うまく動かないときは,まず,マイクロソフト C++ ビルドツールの動作を,別ページの手順により確認し,異常があれば,マイクロソフト C++ ビルドツールのインストールなどで対処.それでも動かないときは,NVIDIA CUDA ツールキット 11.5 のインストールしたときの作業に間違いがなかったかを再確認.

    nvcc hello.cu
    

    [image]
    .\a.exe
    

    [image]

NVIDIA CUDA サンプルプログラムのビルドと実行

付属のサンプルプログラムを Visual Studio Community 2019 の C++ を用いてビルドし実行してみる.

前準備

Visual Studio 2019 の C++ のインストールを行う. その手順は, 別ページで説明している.

CUDA Samples にあるソースコードのビルド

  1. C:\ProgramData\NVIDIA Corporation\CUDA Samples\v10.1 を開く
  2. 自分が持っている Visual Studio のバージョンにあった sln ファイル(ソリューションファイル)を開く.
  3. ソリューションファイルを確認.Samples_vs2019.slnを開く.

    しばらく待つ

  4. ソリューションエクスプローラーの「ソリューション 'Sample_vs2019' (168プロジェクト)」をクリックすると,下にプロパティが表示されるので確認する.
  5. ビルドする前に、 右クリックメニューで、 「ソリューションの再ターゲット」を選ぶ.

    これは、SDK のバージョンに起因するエラーを回避するための操作

  6. 「ビルド」メニューを開き,「ソリューションのビルド」を選ぶ.
  7. 画面の下にあるコンソールを見て,ビルドの終了を確認.

    ※ ビルドの終了までしばらく待つこと.

  8. プログラムができる.いくつかを実行してみる.

    プログラムの場所は C:\ProgramData\NVIDIA Corporation\CUDA Samples\v10.1\bin\win64\Debug