【サイト内の関連ページ】
【関連する外部ページ】
Python の公式ページ: https://www.python.org/
【サイト内の関連ページ】
NVIDIA グラフィックスボードを搭載しているパソコンの場合には, NVIDIA ドライバ, NVIDIA CUDA ツールキット, NVIDIA cuDNN のインストールを行う.
【関連する外部ページ】
コマンドプロンプトを管理者として実行: 別ページ »で説明
PyTorch のページ: https://pytorch.org/index.html
次のコマンドは, PyTorch 2.0 (NVIDIA CUDA 11.8 用) をインストールする. 但し,Anaconda3を使いたい場合には別手順になる.
事前に NVIDIA CUDA のバージョンを確認しておくこと(ここでは,NVIDIA CUDA ツールキット 11.8 が前もってインストール済みであるとする).
PyTorch で,GPU が動作している場合には,「torch.cuda.is_available()」により,True が表示される.
python -m pip install -U --ignore-installed pip python -m pip install -U torch torchvision torchaudio numpy --index-url https://download.pytorch.org/whl/cu118 python -c "import torch; print(torch.__version__, torch.cuda.is_available())"
Anaconda3を使いたい場合には, Anaconda プロンプト (Anaconda Prompt) を管理者として実行し, 次のコマンドを実行する. (PyTorch と NVIDIA CUDA との連携がうまくいかない可能性があるため,Anaconda3を使わないことも検討して欲しい).
conda install -y pytorch torchvision torchaudio pytorch-cuda=11.8 cudnn -c pytorch -c nvidia py -c "import torch; print(torch.__version__, torch.cuda.is_available())"
【サイト内の関連ページ】
【関連する外部ページ】
コマンドプロンプトを管理者として実行: 別ページ »で説明
cd %HOMEPATH% curl -L -O https://github.com/oobabooga/text-generation-webui/releases/download/installers/oobabooga_windows.zip
zip ファイルを展開(解凍)し,start_windows.bat を実行.
cd %HOMEPATH% powershell -command "Expand-Archive -Path oobabooga_windows.zip" cd oobabooga_windows cd oobabooga_windows start_windows.bat
「Model」のタブで,「Download custom model or LoRA」に「cyberagent/open-calm-3b」を入れて,「Download」をクリック.ダウンロードの終了を待つ.
cyberagent/open-calm-3b, 2.7B, https://huggingface.co/cyberagent/open-calm-3b
cyberagent/open-calm-1b, 1.4B, https://huggingface.co/cyberagent/open-calm-1b
cyberagent/open-calm-large, 830M, https://huggingface.co/cyberagent/open-calm-large
cyberagent/open-calm-medium, 400M, https://huggingface.co/cyberagent/open-calm-medium を使用