Alpaca.cpp のインストールと動作確認（大規模言語モデル）（Windows 上）

前準備

Git のインストール（Windows 上）

【サイト内の関連ページ】

Windows での Git のインストール: 別ページ »で説明

【関連する外部ページ】

Git の公式ページ: https://git-scm.com/

cmake のインストール（Windows 上）

【サイト内の関連ページ】

Windows での cmake のインストール: 別ページ »で説明

【関連する外部ページ】

cmake の公式ダウンロードページ: https://cmake.org/download/

Build Tools for Visual Studio 2022 （ビルドツール for Visual Studio 2022），Visual Studio 2022 のインストール（Windows 上）

• Visual Studio を使う予定がある場合

  Windows での Visual Studio Community 2022 のインストール: 別ページ »で説明

  Visual Studio Community 2022 に， Build Tools for Visual Studio 2022の機能が含まれている．

• Visual Studio を使う予定がない場合

  Windows での Build Tools for Visual Studio 2022 （ビルドツール for Visual Studio 2022） のインストール: 別ページ »で説明

【関連する外部ページ】

• Build Tools for Visual Studio 2022 の公式ページ: https://visualstudio.microsoft.com/ja/downloads/

Alpaca.cpp のインストール（Windows 上）

1. Windows で，コマンドプロンプトを管理者として実行

   コマンドプロンプトを管理者として実行: 別ページ »で説明

2. Alpaca.cpp のソースコードのダウンロード

   次のコマンドを実行．

   cd %HOMEPATH%
   rmdir /s /q alpaca.cpp
   git clone --recursive https://github.com/antimatter15/alpaca.cpp
   

   
3. Alpaca.cpp のインストール

   次のコマンドを実行．

   cd %HOMEPATH%
   cd alpaca.cpp
   rmdir /s /q build
   mkdir build
   cd build
   cmake ..
   cmake --build . --config RELEASE
   

4. 終了の確認

   エラーメッセージが出ていないこと．

   
5. Alpaca.cpp のモデル Alpaca 7b q4 のダウンロード

   cd %HOMEPATH%
   cd alpaca.cpp
   cd build
   cd release
   curl -o ggml-alpaca-7b-q4.bin -C - https://gateway.estuary.tech/gw/ipfs/QmQ1bf2BTnYxq73MFJWu1B7bQ2UD6qG7D7YDCxhTndVkPC
   

   

Alpaca.cpp の動作確認のためチャットしてみる（Windows 上）

次のコマンドを実行．

英語での対話ができるようである．

cd %HOMEPATH%
cd alpaca.cpp
cd build
cd release
.\chat.exe