NCCL のインストール（Windows 上）

前準備

Visual Studio Community 2022 のインストール（Windows 上）

1. Windows で，コマンドプロンプトを管理者として実行

   コマンドプロンプトを管理者として実行: 別ページ »で説明

   次のコマンドを実行

   次のコマンドは，Visual Studio Community 2022と VC2015 再配布可能パッケージをインストールするものである．

   winget install --scope machine Microsoft.VisualStudio.2022.Community
   winget install --scope machine Microsoft.VCRedist.2015+.x64
   

2. Visual Studio での C++ によるデスクトップ開発，CLI のインストール（Windows 上）
   1. Visual Studio Installer の起動

      起動方法: スタートメニューの「Visual Studio Installer」を選ぶ．

   2. Visual Studio Community 2022 で「変更」を選ぶ．
   3. 「C++ によるデスクトップ開発」をチェック．そして，画面右側の「インストール」の詳細で「v143 ビルドツール用 C++/CLI サポート（最新）」をチェックする．その後，「インストール」をクリック．

NVIDIA ドライバのインストール（Windows 上）

1. NVIDIA グラフィックス・ボードの確認

   Windows で，NVIDIA グラフィックス・ボードの種類を調べたいときは， 次のコマンドを実行することにより調べることができる．

   wmic path win32_VideoController get name
   

2. NVIDIA ドライバのダウンロード

   NVIDIA ドライバは，以下の NVIDIA 公式サイトからダウンロードできる．

   https://www.nvidia.co.jp/Download/index.aspx?lang=jp

3. ダウンロードの際には，使用しているグラフィックス・ボードの型番とオペレーティングシステムを選択する．

NVIDIA CUDA ツールキット 11.8 のインストール（Windows 上）

1. Windows では，NVIDIA CUDA ツールキットのインストール中は，なるべく他のウインドウはすべて閉じておくこと．
2. Windows で，コマンドプロンプトを管理者として実行

   コマンドプロンプトを管理者として実行: 別ページ »で説明

3. 次のコマンドを実行

   次のコマンドは，NVIDIA GeForce Experience，NVIDIA CUDA ツールキット 11.8 をインストールするものである．

   wmic path win32_VideoController get name
   winget install --scope machine Nvidia.GeForceExperience
   winget install --scope machine Nvidia.CUDA --version 11.8
   powershell -command "[System.Environment]::SetEnvironmentVariable(\"CUDA_HOME\", \"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\", \"Machine\")"
   

4. NVIDIA CUDA ツールキットのインストールが終わったら，ユーザ環境変数 TEMP の設定を行う．

   Windows のユーザ名が日本語のとき，nvcc がうまく動作しないエラーを回避するためである．

   ユーザ環境変数 TEMP に「C:\TEMP」を設定するために， コマンドプロンプトで，次のコマンドを実行する．

   mkdir C:\TEMP
   powershell -command "[System.Environment]::SetEnvironmentVariable(\"TEMP\", \"C:\TEMP\", \"User\")"
   

NVIDIA cuDNN 8.9.7 のインストール（Windows 上）

zlib のインストール（Windows 上）

1. Windows で，コマンドプロンプトを管理者として実行

   コマンドプロンプトを管理者として実行: 別ページ »で説明

2. 次のコマンドを実行

   次のコマンドは，zlibをインストールし，パスを通すものである．

   cd /d c:%HOMEPATH%
   rmdir /s /q zlib
   git clone https://github.com/madler/zlib
   cd zlib
   del CMakeCache.txt
   rmdir /s /q CMakeFiles\
   cmake . -G "Visual Studio 17 2022" -A x64 -T host=x64 -DCMAKE_INSTALL_PREFIX=c:/zlib
   cmake --build . --config RELEASE --target INSTALL
   powershell -command "$oldpath = [System.Environment]::GetEnvironmentVariable(\"Path\", \"Machine\"); $oldpath += \";c:\zlib\bin\"; [System.Environment]::SetEnvironmentVariable(\"Path\", $oldpath, \"Machine\")"
   powershell -command "[System.Environment]::SetEnvironmentVariable(\"ZLIB_HOME\", \"C:\zlib\", \"Machine\")"
   

【関連する外部ページ】

• zlib の公式ページ: https://www.zlib.net/

【関連項目】 zlib

NVIDIA cuDNN 8.9.7 のインストール（Windows 上）

1. NVIDIA cuDNN のウェブページを開く

   https://developer.nvidia.com/cuDNN

2. ダウンロードしたいので，cuDNNのところにある「Download cuDNN」をクリック．
   
3. cuDNN Downloads のページで「Archive of Previous Releases」をクリック
   
4. 「cuDNN 8.x - 1.x」をクリック
   
5. ダウンロードしたいバージョンを選ぶ

   ここでは「NVIDIA cuDNN v8.9.7 for CUDA 11.x」を選んでいる．

   このとき，画面の「for CUDA ...」のところを確認し，使用するNVIDIA CUDA のバージョンに合うものを選ぶこと．

   
6. Windows にインストールするので Windows 版を選ぶ
   
7. NVIDIA Developer Program メンバーシップに入る

   NVIDIA cuDNN のダウンロードのため．

   「Join now」をクリック．その後，画面の指示に従う． 利用者本人が，電子メールアドレス，表示名，パスワード，生年月日を登録．利用条件等に合意．

   
8. ログインする
   
9. 調査の画面が出たときは，調査に応じる
10. ライセンス条項の確認
    
11. ダウンロードが始まる．
    
12. ダウンロードした .zip ファイルを展開（解凍）する． その中のサブディレクトリを確認しておく．

    Windows での展開（解凍）に便利な 7-Zip: 別ページ »で説明

    
13. NVIDIA CUDA ツールキットをインストールしたディレクトリを確認する．「C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8」のようになっている．
    
14. 確認したら， さきほど展開してできたすべてのファイルとディレクトリを，NVIDIA CUDA ツールキットをインストールしたディレクトリにコピーする
    
15. パスが通っていることを確認．

    次の操作により，cudnn64_8.dll にパスが通っていることを確認する．

    Windows のコマンドプロンプトを開き，次のコマンドを実行する．エラーメッセージが出ないことを確認．

    where cudnn64_8.dll
    

    
16. Windows の システム環境変数 CUDNN_PATH の設定を行う． Windows では， コマンドプロンプトを管理者として開き， 次のコマンドを実行することにより， システム環境変数 CUDNN_PATH の設定を行うことができる．

    コマンドプロンプトを管理者として実行: 別ページ »で説明

    powershell -command "[System.Environment]::SetEnvironmentVariable(\"CUDNN_PATH\", \"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\", \"Machine\")"
    

    

NCCL のインストール（Windows 上）

https://github.com/MyCaffe/NCCLを使用．

の説明に従い，インストールを行う．

1. Windows で，コマンドプロンプトを管理者として実行

   コマンドプロンプトを管理者として実行: 別ページ »で説明

2. ダウンロード

   cd c:\
   rmdir /s /q NCCL
   git clone https://github.com/MyCaffe/NCCL
   

   
3. Visual Studio IDE を用いて，ソリューションの再ターゲットを行う．
   1. C:\NCCL\windows\nccl.11.8.vcxproj を Visual Studio Community で開くために次のコマンドを実行

      cd c:\NCCL
      cd windows
      nccl.11.8.vcxproj
      

      
   2. 「Microsoft Visual Studio」を選ぶ
      
   3. ソリューションエクスプローラーで，右クリックメニューを用いて，再ターゲットの操作を行う．
      
      
      
   4. 終了の確認

      「再ターゲットの終了: 完了 1、失敗 0、スキップ 0」と表示されるので確認する．

      
4. Visual Studio の x64 Native Tools コマンドプロンプトを管理者として実行．

   起動は，Windows のメニューで「Visual Studio 20..」の下の「x64 Native Tools コマンドプロンプト (x64 Native Tools Command Prompt)」を選ぶ．「x64」は，64ビット版の意味である．

5. ビルドの操作

   cd c:\
   cd NCCL
   msbuild windows\nccl.11.8.vcxproj /p:Platform=x64
   

   
6. 終了の確認
   
   「インポートされたプロジェクトで C:\Program Files\Microsoft Visual Studio \2022\Community\MSBuild\Microsoft\VC\v170\BuildCustomization\CuDA 11.8.props が見つかりませんでした」のようなエラーメッセージが出た場合には，次を実行した後に，やり直すと解決できる場合がある．

   copy "C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\extras\visual_studio_integration\MSBuildExtensions\*.*" "C:\Program Files\Microsoft Visual Studio\2022\Community\MSBuild\Microsoft\VC\v170\BuildCustomizations"
   

7. パスの追加

   Windows のシステム環境変数 Path に c:\NCCL\windows\x64\Debug を追加することにより，パスを通す．

   Windows で，コマンドプロンプトを管理者として実行

   コマンドプロンプトを管理者として実行: 別ページ »で説明

   次のコマンドを実行

   powershell -command "$oldpath = [System.Environment]::GetEnvironmentVariable(\"Path\", \"Machine\"); $oldpath += \";c:\NCCL\windows\x64\Debug\"; [System.Environment]::SetEnvironmentVariable(\"Path\", $oldpath, \"Machine\")"
   

   

WindowsでのNCCLのソースコードからのインストールとシステム設定の手順を説明．