PyCUDA のインストール，PyCUDA のプログラム例（Windows 上）

前準備

Python 3.10, 7-Zip のインストール（Windows 上）

Pythonは，プログラミング言語の１つ． 7-Zipは，ファイル圧縮・展開（解凍）ツール．

【手順】

1. Windows で，管理者権限でコマンドプロンプトを起動（手順：Windowsキーまたはスタートメニュー > cmd と入力 > 右クリック > 「管理者として実行」）。

   次のコマンドを実行

   次のコマンドは，Python ランチャーとPython 3.10と7-Zipをインストールし，7-Zipにパスを通すものである．

   winget install --scope machine Python.Launcher
   winget install --scope machine Python.Python.3.10
   winget install --scope machine 7zip.7zip
   powershell -command "$oldpath = [System.Environment]::GetEnvironmentVariable(\"Path\", \"Machine\"); $oldpath += \";c:\Program Files\7-Zip\"; [System.Environment]::SetEnvironmentVariable(\"Path\", $oldpath, \"Machine\")"
   

【関連する外部ページ】

• Python の公式ページ: https://www.python.org/
• 7-Zip の公式ページ: https://7-zip.opensource.jp/

【サイト内の関連ページ】

• Python詳細ガイド：別ページ »

【関連項目】 Python, 7-Zip

Build Tools for Visual Studio 2022 （ビルドツール for Visual Studio 2022）または Visual Studio 2022 のインストール（Windows 上）

【インストールの判断】 Build Tools for Visual Studio は，開発ツールセットである． Visual Studio は統合開発環境であり，いくつかの種類があり，Build Tools for Visual Studioの機能を含むか連携して使用するものである．インストールは以下の基準で判断してください：

• Build Tools for Visual Studio の機能のみが必要な場合

  Build Tools for Visual Studio のインストール を行う．

• Visual Studio の機能が必要である，あるいは，よく分からない場合

  Visual Studio をインストール する．

  Visual Studio 2022 をインストールする際に，「C++ によるデスクトップ開発」を選択することで， Build Tools for Visual Studio 2022 の機能も一緒にインストールされる．

不明な点がある場合は，Visual Studio 全体をインストール を行う方が良い．

Build Tools for Visual Studio 2022 のインストール（Windows 上）

1. Windows で，管理者権限でコマンドプロンプトを起動（手順：Windowsキーまたはスタートメニュー > cmd と入力 > 右クリック > 「管理者として実行」）。

   次のコマンドを実行

   次のコマンドは，Build Tools for Visual Studio 2022と VC2015 再配布可能パッケージをインストールするものである．

   winget install --scope machine Microsoft.VisualStudio.2022.BuildTools 
   winget install --scope machine Microsoft.VCRedist.2015+.x64
   

2. Build Tools for Visual Studio 2022 での C++ によるデスクトップ開発，CLI，ATL，MFC のインストール（Windows 上）
   1. Visual Studio Installer の起動

      起動方法: スタートメニューの「Visual Studio Installer」を選ぶ．

   2. Visual Studio Build Tools 2022 で「変更」を選ぶ．
      
   3. 「C++ によるデスクトップ開発」をクリック．そして，画面右側の「インストール」の詳細で「v143 ビルドツール用 C++/CLI サポート（最新）」，「ATL」，「MFC」をチェックする．その後，「変更」をクリック．
      

Visual Studio のインストール（Windows 上）

1. Windows で，管理者権限でコマンドプロンプトを起動（手順：Windowsキーまたはスタートメニュー > cmd と入力 > 右クリック > 「管理者として実行」）。

   次のコマンドを実行

   1. 管理者権限でコマンドプロンプトを起動（手順：Windowsキーまたはスタートメニュー > cmd と入力 > 右クリック > 「管理者として実行」）。
   2. インストールコマンドの実行

      winget install Microsoft.VisualStudio.2022.Community --scope machine --override "--add Microsoft.VisualStudio.Workload.NativeDesktop Microsoft.VisualStudio.ComponentGroup.NativeDesktop.Core Microsoft.VisualStudio.Component.VC.CLI.Support Microsoft.VisualStudio.Component.CoreEditor Microsoft.VisualStudio.Component.NuGet Microsoft.VisualStudio.Component.Roslyn.Compiler Microsoft.VisualStudio.Component.TextTemplating Microsoft.VisualStudio.Component.Windows.SDK.Latest Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATLMFC"
      winget install Microsoft.VisualStudio.2022.Community --scope machine Microsoft.VCRedist.2015+.x64
      

      インストールされるコンポーネントの説明：

      • NativeDesktop：C++によるデスクトップアプリケーション開発のためのワークロード一式
      • NativeDesktop.Core：C++デスクトップ開発に必要な基本コンポーネント群
      • VC.CLI.Support：マネージドコードとネイティブコードの統合開発を可能にするC++/CLIサポート
      • CoreEditor：コード編集，デバッグ，検索などの基本機能を提供するVisual Studioのコアエディタ
      • NuGet：.NETライブラリの依存関係を管理するパッケージ管理システム
      • Windows.SDK.Latest：Windows 向けアプリケーション開発用SDK（Software Development Kit）
      • VC.Tools.x86.x64：32ビット及び64ビット向けC++コンパイラとビルドツール
      • VC.ATL：Windowsコンポーネント開発用のActive Template Library
      • VC.ATLMFC：デスクトップアプリケーション開発用のMicrosoft Foundation Class Library

      システム要件と注意事項：

      • 管理者権限でのインストールが必須
      • 必要ディスク容量：10GB以上
      • 推奨メモリ：8GB以上のRAM
      • インストール過程でシステムの再起動が要求される可能性がある
      • 安定したインターネット接続環境が必要

      追加のコンポーネントが必要な場合は，Visual Studio Installerを使用して個別にインストールすることが可能である．

   3. インストール完了の確認

      winget list Microsoft.VisualStudio.2022.Community
      

      トラブルシューティング：

      インストール失敗時は，以下のログファイルを確認：

      %TEMP%\dd_setup_<timestamp>.log
      %TEMP%\dd_bootstrapper_<timestamp>.log

2. Visual Studio での C++ によるデスクトップ開発，CLI のインストール（Windows 上）
   1. Visual Studio Installer の起動

      起動方法: スタートメニューの「Visual Studio Installer」を選ぶ．

   2. Visual Studio Community 2022 で「変更」を選ぶ．
   3. 「C++ によるデスクトップ開発」をチェック．そして，画面右側の「インストール」の詳細で「v143 ビルドツール用 C++/CLI サポート（最新）」をチェックする．その後，「インストール」をクリック．

NVIDIA ドライバのインストール（Windows 上）

1. NVIDIA グラフィックス・ボードの確認

   Windows で，NVIDIA グラフィックス・ボードの種類を調べたいときは， 次のコマンドを実行することにより調べることができる．

   wmic path win32_VideoController get name
   

2. NVIDIA ドライバのダウンロード

   NVIDIA ドライバは，以下の NVIDIA 公式サイトからダウンロードできる．

   https://www.nvidia.co.jp/Download/index.aspx?lang=jp

3. ダウンロードの際には，使用しているグラフィックス・ボードの型番とオペレーティングシステムを選択する．

NVIDIA CUDA ツールキット 11.8 のインストール（Windows 上）

1. Windows では，NVIDIA CUDA ツールキットのインストール中は，なるべく他のウインドウはすべて閉じておくこと．
2. Windows で，管理者権限でコマンドプロンプトを起動（手順：Windowsキーまたはスタートメニュー > cmd と入力 > 右クリック > 「管理者として実行」）。
3. 次のコマンドを実行

   次のコマンドは，NVIDIA GeForce Experience，NVIDIA CUDA ツールキット 11.8 をインストールするものである．

   wmic path win32_VideoController get name
   
   winget install --scope machine Nvidia.CUDA --version 11.8
   powershell -command "[System.Environment]::SetEnvironmentVariable(\"CUDA_HOME\", \"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\", \"Machine\")"
   

4. NVIDIA CUDA ツールキットのインストールが終わったら，ユーザ環境変数 TEMP の設定を行う．

   Windows のユーザ名が日本語のとき，nvcc がうまく動作しないエラーを回避するためである．

   ユーザ環境変数 TEMP に「C:\TEMP」を設定するために， コマンドプロンプトで，次のコマンドを実行する．

   mkdir C:\TEMP
   powershell -command "[System.Environment]::SetEnvironmentVariable(\"TEMP\", \"C:\TEMP\", \"User\")"
   

PyCUDA のインストール（Windows 上）

1. Windows で，管理者権限でコマンドプロンプトを起動（手順：Windowsキーまたはスタートメニュー > cmd と入力 > 右クリック > 「管理者として実行」）。
2. 次のコマンドを実行

   次のコマンドは，pycuda をインストールするものである．

   python -m pip install pycuda
   

【関連する外部ページ】

• PyCUDA の公式ページ: https://mathema.tician.de/software/pycuda/

PyCUDA のプログラム例（公式サイトのプログラムを利用）

試しに、https://documen.tician.de/pycuda/ で公開されているサンプルプログラムを動かしてみる．

1. Visual Studio の x64 Native Tools コマンドプロンプトを起動．

   * その起動は，Windows のスタートメニューで「Visual Studio 2022」の下の「x64 Native Tools Command Prompt for VS 2022」で起動する.（あるいは類似のものを探す）

   

   「x64 Native Tools コマンドプロンプト (x64 Native Tools Command Prompt)」がないとき:

   C++ ビルドツール (Build Tools) のインストールを行うことで， 「x64 Native Tools コマンドプロンプト (x64 Native Tools Command Prompt)」がインストールされる．その手順は，別ページ »で説明

2. Python プログラムの実行

   Python プログラムの実行

   • Windows では python （Python ランチャーは py）
   • Ubuntu では python3

   Python 開発環境（Jupyter Qt Console, Jupyter ノートブック (Jupyter Notebook), Jupyter Lab, Nteract, Spyder, PyCharm, PyScripterなど）も便利である．

   Python のまとめ: 別ページ »にまとめ

   python
   

   次の Python プログラムを実行する

   import pycuda.autoinit
   import pycuda.driver as drv
   import numpy
   
   from pycuda.compiler import SourceModule
   mod = SourceModule("""
   __global__ void multiply_them(float *dest, float *a, float *b)
   {
     const int i = threadIdx.x;
     dest[i] = a[i] * b[i];
   }
   """, options=['-allow-unsupported-compiler'])
   
   multiply_them = mod.get_function("multiply_them")
   
   a = numpy.random.randn(400).astype(numpy.float32)
   b = numpy.random.randn(400).astype(numpy.float32)
   
   dest = numpy.zeros_like(a)
   multiply_them(
           drv.Out(dest), drv.In(a), drv.In(b),
           block=(400,1,1), grid=(1,1))
   
   print(dest-a*b)
   

   

PyCUDA の主な機能

公式チュートリアル https://documen.tician.de/pycuda/tutorial.html#getting-started に掲載されているプログラムと実行結果を紹介

• GPU上でのメモリ確保とデータ転送

  import pycuda.driver as cuda
  import pycuda.autoinit
  import numpy as np
  
  # データ準備
  a = np.random.randn(4, 4).astype(np.float32)
  
  # GPU上でメモリ確保
  a_gpu = cuda.mem_alloc(a.nbytes)
  
  # データをGPUに転送
  cuda.memcpy_htod(a_gpu, a)
  
  # GPUからデータを取得して確認
  a_result = np.empty_like(a)
  cuda.memcpy_dtoh(a_result, a_gpu)
  print("Original data:", a)
  print("Data after GPU transfer:", a_result)
  

  
• カーネル関数の実行

  import pycuda.driver as cuda
  import pycuda.autoinit
  import numpy as np
  from pycuda.compiler import SourceModule
  
  mod = SourceModule("""
  __global__ void double_array(float *a)
  {
      int idx = threadIdx.x + threadIdx.y*4;
      a[idx] *= 2;
  }
  """, options=['-allow-unsupported-compiler'])
  
  # データ準備
  a = np.random.randn(4, 4).astype(np.float32)
  
  # GPU上でメモリ確保
  a_gpu = cuda.mem_alloc(a.nbytes)
  
  # データをGPUに転送
  cuda.memcpy_htod(a_gpu, a)
  
  func = mod.get_function("double_array")
  func(a_gpu, block=(4, 4, 1))
  
  # 結果を確認
  a_doubled = np.empty_like(a)
  cuda.memcpy_dtoh(a_doubled, a_gpu)
  print("Original array:", a)
  print("Doubled array:", a_doubled)
  

  
• 準備済み呼び出し (Prepared Invocations)

  import pycuda.driver as cuda
  import pycuda.autoinit
  import numpy as np
  from pycuda.compiler import SourceModule
  
  # カーネル関数の定義
  mod = SourceModule("""
  __global__ void double_array(float *a)
  {
      int idx = threadIdx.x + threadIdx.y*4;
      a[idx] *= 2;
  }
  """, options=['-allow-unsupported-compiler'])
  
  # 関数の取得
  func = mod.get_function("double_array")
  
  # データの準備
  a = np.random.randn(4, 4).astype(np.float32)
  a_gpu = cuda.mem_alloc(a.nbytes)
  cuda.memcpy_htod(a_gpu, a)
  
  # 関数の準備と呼び出し
  func.prepare("P")
  func.prepared_call((1, 1), (4, 4, 1), a_gpu)
  
  # 結果の取得と表示
  a_result = np.empty_like(a)
  cuda.memcpy_dtoh(a_result, a_gpu)
  print("Original array:", a)
  print("Result using prepared call:", a_result)
  

  
• GPUArrayを使用した簡略化

  import pycuda.driver as cuda
  import pycuda.autoinit
  import pycuda.compiler as compiler
  import pycuda.gpuarray as gpuarray
  import numpy as np
  
  # コンパイラオプションを設定
  compiler.DEFAULT_NVCC_FLAGS.append('-allow-unsupported-compiler')
  
  # GPUArrayの作成と計算
  a_gpu = gpuarray.to_gpu(np.random.randn(4, 4).astype(np.float32))
  a_doubled = (2 * a_gpu).get()
  
  print("Original GPUArray:")
  print(a_gpu)
  print("\nDoubled GPUArray:")
  print(a_doubled)