privateGPT のインストールと動作確認（大規模言語モデルと対話型AI）（Build Tools, Python を使用）（Windows 上）

privateGPT のインストールと動作確認を行う．

【目次】

  1. 前準備
  2. privateGPT のインストール（Windows 上）
  3. privateGPT の動作確認（Windows 上）

【関連する外部ページ】

公式の GitHub のページ：https://github.com/imartinez/privateGPT

前準備

Python のインストール（Windows上）

注：既にPython（バージョン3.12を推奨）がインストール済みの場合は，この手順は不要である．

winget（Windowsパッケージマネージャー）を使用してインストールを行う

  1. Windowsで，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）
  2. winget（Windowsパッケージマネージャー）が利用可能か確認する： 
    winget --version
  3. Pythonのインストール（下のコマンドにより Python 3.12 がインストールされる）． 
    winget install --scope machine Python.Launcher
winget install --scope machine Python.Python.3.12

    4. 【関連する外部サイト】

    【サイト内の関連ページ】

Build Tools for Visual Studio 2022 （ビルドツール for Visual Studio 2022）または Visual Studio 2022 のインストール（Windows 上）

CUDAツールキットは、GPU上でコードをコンパイルするためにC++コンパイラを必要とします。そのため、事前にMicrosoft C++ Build Tools または Visual Studio (C++開発ワークロードを含む) をインストールしておく必要があります。

【インストールの判断】 Build Tools for Visual Studio は，C++コンパイラなどを含む開発ツールセットです． Visual Studio は統合開発環境であり，いくつかのエディションがあり，Build Tools for Visual Studioの機能を含むか連携して使用します．インストールは以下の基準で判断してください：

不明な点がある場合は，Visual Studio 全体をインストール する方が、後で機能を追加する手間が省ける場合があります．

Build Tools for Visual Studio 2022 のインストール（Windows 上）

  1. Windows で，コマンドプロンプトを管理者権限で起動します（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）。

    以下のwingetコマンドを実行します。wingetはWindows標準のパッケージマネージャーです。

    --scope machine オプションはシステム全体にインストールすることを意味します。

    次のコマンドは，Build Tools for Visual Studio 2022と、多くのプログラムで必要とされるVC++ 2015以降の再頒布可能パッケージをインストールします． 

    winget install --scope machine Microsoft.VisualStudio.2022.BuildTools
winget install --scope machine Microsoft.VCRedist.2015+.x64
  2. Build Tools for Visual Studio 2022 で C++ によるデスクトップ開発関連コンポーネントのインストール

    CUDA開発には、標準のC++開発ツールに加えて、特定のコンポーネントが必要になる場合があります。

    1. Visual Studio Installer を起動します。

      起動方法: スタートメニューから「Visual Studio Installer」を探して実行します．

    2. Visual Studio Build Tools 2022 の項目で「変更」ボタンをクリックします．
    3. 「ワークロード」タブで「C++ によるデスクトップ開発」をクリックして選択します。画面右側の「インストールの詳細」で、必要に応じて「v143 ビルドツール用 C++/CLI サポート（最新）」、「ATL」、「MFC」などをチェックします（これらは一般的なC++開発や特定のプロジェクトタイプで必要になる場合があります）。その後、「変更」をクリックしてインストールまたは変更を適用します．

Visual Studio Community 2022 のインストール（Windows 上）

  1. Windows で，コマンドプロンプトを管理者権限で起動します。
  2. インストールコマンドの実行

    以下のwingetコマンドを実行します。--override "--add ..." 部分で、インストールするワークロードやコンポーネントを指定しています。

    winget install Microsoft.VisualStudio.2022.Community --scope machine --override "--add Microsoft.VisualStudio.Workload.NativeDesktop Microsoft.VisualStudio.ComponentGroup.NativeDesktop.Core Microsoft.VisualStudio.Component.VC.CLI.Support Microsoft.VisualStudio.Component.CoreEditor Microsoft.VisualStudio.Component.NuGet Microsoft.VisualStudio.Component.Roslyn.Compiler Microsoft.VisualStudio.Component.TextTemplating Microsoft.VisualStudio.Component.Windows.SDK.Latest Microsoft.VisualStudio.Component.VC.Tools.x86.x64 Microsoft.VisualStudio.Component.VC.ATL Microsoft.VisualStudio.Component.VC.ATLMFC"
winget install Microsoft.VisualStudio.2022.Community --scope machine Microsoft.VCRedist.2015+.x64

    インストールされる主要なコンポーネントの説明：

    • NativeDesktop (C++によるデスクトップ開発): CUDA開発に必要なC++コンパイラ(VC.Tools.x86.x64)やWindows SDK (Windows.SDK.Latest)など、基本的な開発ツール一式を含みます。
    • CoreEditor: Visual Studioの基本的なコードエディタ機能を提供します。
    • VC.CLI.Support: C++/CLIを用いた開発サポート（通常、純粋なCUDA C++開発では不要な場合もあります）。
    • NuGet: .NETライブラリ管理用（C++プロジェクトでも利用されることがあります）。
    • VC.ATL / VC.ATLMFC: 特定のWindowsアプリケーション開発フレームワーク（通常、CUDA開発自体には直接必要ありません）。

    システム要件と注意事項：

    • 管理者権限でのインストールが必須です。
    • 必要ディスク容量：10GB以上（選択するコンポーネントにより変動）。
    • 推奨メモリ：8GB以上のRAM。
    • インストール過程でシステムの再起動が要求される可能性があります。
    • 安定したインターネット接続環境が必要です。

    後から追加のコンポーネントが必要になった場合は，Visual Studio Installerを使用して個別にインストールすることが可能です．

  3. インストール完了の確認

    インストールが成功したか確認するには、管理者権限のコマンドプロンプトで以下のコマンドを実行します。

    winget list Microsoft.VisualStudio.2022.Community

    リストに表示されればインストールされています。

    トラブルシューティング：

    インストール失敗時は，以下のログファイルを確認すると原因究明の手がかりになります：

    %TEMP%\dd_setup_.log
%TEMP%\dd_bootstrapper_.log

    ( は実行日時に対応する文字列)

  4. (オプション) Visual Studio Installer での確認と変更

    wingetでのインストール後も、Visual Studio Installerを使ってインストール内容を確認・変更できます。

    1. Visual Studio Installer を起動します。
    2. Visual Studio Community 2022 の項目で「変更」をクリックします。
    3. 「ワークロード」タブで「C++ によるデスクトップ開発」がチェックされていることを確認します。必要であれば、「個別のコンポーネント」タブで特定のツール（例: 特定バージョンのMSVCコンパイラ、CMakeツールなど）を追加・削除できます。「インストールの詳細」で「v143 ビルドツール用 C++/CLI サポート（最新）」などが選択されているかも確認できます。変更後、「変更」または「インストール」をクリックします。

Git のインストール（Windows 上）

Gitは，バージョン管理システム．ソースコードの管理や複数人での共同に役立つ．

【サイト内の関連ページ】 Windows での Git のインストール: 別ページ »で説明

【関連する外部ページ】 Git の公式ページ: https://git-scm.com/

OpenCV のインストール（Windows 上）

OpenCV 4.10.0 のインストール，動作確認（Windows 上）: 別ページ »で説明

privateGPT のインストール（Windows 上）

  1. Windows で，コマンドプロンプトを管理者権限で起動する（例：Windowsキーを押し，「cmd」と入力し，「管理者として実行」を選択）
  2. ソースコードのダウンロード，インストール，学習済みモデル ggml-gpt4all-j のダウンロード

    次のコマンドを実行． 

    cd /d c:%HOMEPATH%
rmdir /s /q privateGPT
git clone https://github.com/imartinez/privateGPT.git
cd privateGPT
python -m pip install -r requirements.txt
copy example.env .env
mkdir models
cd models
curl -L -O https://gpt4all.io/models/ggml-gpt4all-j-v1.3-groovy.bin
  3. ingest.py の実行 
    cd /d c:%HOMEPATH%\privateGPT
python ingest.py

privateGPT の動作確認（Windows 上）

次のコマンドを実行． 

cd /d c:%HOMEPATH%\privateGPT
python privateGPT.py

プロンプトを入れ，しばらく待つ．プロンプトとして「Please explain about computer science for beginner.」を入れたときの実行結果は次の通り．