金子邦彦研究室人工知能Windows で動く人工知能関係 Pythonアプリケーション,オープンソースソフトウエア)MusicGen のインストールと動作確認(作曲)(Python,PyTorch を使用)(Windows 上)

MusicGen のインストールと動作確認(作曲)(Python,PyTorch を使用)(Windows 上)

MusicGen のインストールと,音楽生成を行う.

目次

  1. 前準備
  2. MusicGen のインストール(Windows 上)
  3. MusicGen による音楽生成を実行してみる

MusicGen

MusicGen は, 単一ステージのトランスフォーマー言語モデル(transformer language model)を特徴とする。 フレシェオーディオ距離 (FAD)、クルバック・ライブラーダイバージェンス (KL)、CLAPスコア (CLAP)という客観的指標ならびに、 全体的な品質および(ii)テキスト入力への関連性の主観的指標について、 baselines for text-to-music generation: Riffusion [Forsgren and Martiros] and Mousai [Schneider et al., 2023]をベースラインとして 評価が行われている。

文献

Jade Copet and Felix Kreuk and Itai Gat and Tal Remez and David Kant and Gabriel Synnaeve and Yossi Adi and Alexandre Défossez, Simple and Controllable Music Generation, arXiv preprint arXiv:2306.05284, 2023.

https://arxiv.org/pdf/2306.05284v1.pdf

関連する外部ページ

前準備

Git のインストール(Windows 上)

Gitは,バージョン管理システム.ソースコードの管理や複数人での共同に役立つ.

サイト内の関連ページ

Windows での Git のインストール: 別ページ »で説明している.

関連する外部ページ

Git の公式ページ: https://git-scm.com/

Python のインストール(Windows 上)

サイト内の関連ページ

関連する外部ページ

Python の公式ページ: https://www.python.org/

Build Tools for Visual Studio 2022,NVIDIA ドライバ,NVIDIA CUDA ツールキット 11.8,NVIDIA cuDNN 8.6 のインストール(Windows 上)

サイト内の関連ページ

NVIDIA グラフィックスボードを搭載しているパソコンの場合には, NVIDIA ドライバNVIDIA CUDA ツールキットNVIDIA cuDNN のインストールを行う.

関連する外部ページ

PyTorch のインストール(Windows 上)

  1. Windows で,コマンドプロンプト管理者として実行

    コマンドプロンプトを管理者として実行: 別ページ »で説明

  2. PyTorch のページを確認

    PyTorch のページ: https://pytorch.org/index.html

  3. 次のようなコマンドを実行(実行するコマンドは,PyTorch のページの表示されるコマンドを使う).

    次のコマンドは, PyTorch 2.0 (NVIDIA CUDA 11.8 用) をインストールする. 但し,Anaconda3を使いたい場合には別手順になる.

    事前に NVIDIA CUDA のバージョンを確認しておくこと(ここでは,NVIDIA CUDA ツールキット 11.8 が前もってインストール済みであるとする).

    PyTorch で,GPU が動作している場合には,「torch.cuda.is_available()」により,True が表示される.

    python -m pip install -U --ignore-installed pip
    python -m pip install -U torch torchvision torchaudio numpy --index-url https://download.pytorch.org/whl/cu118
    python -c "import torch; print(torch.__version__, torch.cuda.is_available())" 
    

    [image]

    Anaconda3を使いたい場合には, Anaconda プロンプト (Anaconda Prompt)管理者として実行し, 次のコマンドを実行する. (PyTorch と NVIDIA CUDA との連携がうまくいかない可能性があるため,Anaconda3を使わないことも検討して欲しい).

    conda install -y pytorch torchvision torchaudio pytorch-cuda=11.8 cudnn -c pytorch -c nvidia
    py -c "import torch; print(torch.__version__, torch.cuda.is_available())" 
    

    サイト内の関連ページ

    関連する外部ページ

MusicGen のインストール(Windows 上)

FFmpeg のインストール(Windows 上)

Windows での FFmpeg のインストール(Windows 上): 別ページ »で説明している.

TensorFlow のインストール

Windows での TensorFlowKeras のインストール: 別ページ »で説明

(このページで,Build Tools for Visual Studio 2022,NVIDIA ドライバ, NVIDIA CUDA ツールキットNVIDIA cuDNNのインストールも説明している.)

MusicGen のインストール(Windows 上)

  1. Windows で,コマンドプロンプト管理者として実行

    コマンドプロンプトを管理者として実行: 別ページ »で説明

  2. MusicGen のインストール,関連ファイルのダウンロード

    python -m pip install audiocraft
    cd %HOMEPATH%
    rmdir /s /q audiocraft
    git clone --recursive https://github.com/facebookresearch/audiocraft
    cd audiocraft
    pip install -e .
    

MusicGen による音楽生成を実行してみる

  1. Windows で,コマンドプロンプトを実行
  2. エディタを起動
    cd %HOMEPATH%\audiocraft
    notepad c.py
    
  3. エディタで,次のプログラムを保存

    「descriptions = ['pop song with drum and synth pads in background, about computer, AI, technology.']」のところに文章を記載する.

    「model.set_generation_params(duration=30) 」のところは,秒数を設定する.GPUのメモリが足りない場合などは,この数値を小さくすると解決するかもしれない.

    model = MusicGen.get_pretrained('large') の 「large」は,必要に応じて,別のものを指定(指定できるものは,公式ページ https://github.com/facebookresearch/audiocraft に記載されている).

    このプログラムは, 公式ページ https://github.com/facebookresearch/audiocraftで公開されていたものについて,text to music の機能のみを使うようにするなどの変更を行ったもの.

    import torchaudio
    from audiocraft.models import MusicGen
    from audiocraft.data.audio import audio_write
    
    model = MusicGen.get_pretrained('large')
    model.set_generation_params(duration=30) 
    wav = model.generate_unconditional(4)    # generates 4 unconditional audio samples
    descriptions = ['pop song with drum and synth pads in background, about computer, AI, technology.']
    wav = model.generate(descriptions)  # generates 3 samples.
    
    # generates using the melody from the provided descriptions.
    wav = model.generate(descriptions)
    
    for idx, one_wav in enumerate(wav):
        # Will save under {idx}.wav, with loudness normalization at -14 db LUFS.
        audio_write(f'{idx}', one_wav.cpu(), model.sample_rate, strategy="loudness", loudness_compressor=True)
    

    [image]
  4. Python プログラムの実行

    Python プログラムの実行

    Python 開発環境(Jupyter Qt Console, Jupyter ノートブック (Jupyter Notebook), Jupyter Lab, Nteract, Spyder, PyCharm, PyScripterなど)も便利である.

    Python のまとめ: 別ページ »にまとめ

    プログラムを c.pyのようなファイル名で保存したので, 「python c.py」のようなコマンドで行う.

    python c.py
    

    [image]
  5. 0.wav ができるので確認.再生してみる.