VBGMM (Variational Bayesian Gaussian Mixture) を用いてクラスタリング（Python, scikit-learn を使用）

【概要】

VBGMM (Variational Bayesian Gaussian Mixture) では，クラスタ数を指定せずにクラスタリングを行う．本記事では，Python と scikit-learn を使用し，Iris データセットに VBGMM を適用する．VBGMM は，あらかじめ与えた最大クラスタ数のうち，データに適合するクラスタにだけ大きな重みを割り当て，有効なクラスタ数を自動的に決定する（実際に使われないクラスタの重みは 0 に近い値になる）．クラスタリング結果は主成分分析（PCA：データの分散が大きい方向に軸を取り直して次元を減らす手法）で2次元に次元削減し，散布図として可視化する．元の Iris データセットの品種ラベルによるプロットと比較することで，分類のようすを視覚的に確認できる．

【目次】

【関連する外部ページ】

【サイト内の関連情報】

1. 前準備

Python 3.12 のインストール

Pythonのインストールを行い、Pythonのプログラムを実行する環境を整える。扱う環境は、Windows搭載パソコンである。金子研究室では、Python 3.12.10を推奨する。

[Windows での Python 3.12 のインストール手順を見るには、ここをクリック]

Windows での Python 3.12 のインストール

以下のいずれかの方法でPython 3.12をインストールする。Pythonがインストール済みの場合、この手順は不要である。

方法 1：winget によるインストール

【インストールコマンドの実行方法】

管理者権限でコマンドプロンプトを起動する（手順：Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」）。そして、コマンド全体をコマンドプロンプトにコピー＆ペーストする。

--scope machine を指定することで、システム全体（全ユーザー向け）にインストールされる。このオプションの実行には管理者権限が必要である。インストール完了後、コマンドプロンプトを再起動するとPATHが反映される。

REM Python 3.12 をシステム領域にインストール
winget install --id Python.Python.3.12 -e --scope machine --silent --accept-source-agreements --accept-package-agreements --override "/quiet InstallAllUsers=1 PrependPath=1 Include_test=0 Include_pip=1 Include_launcher=1 InstallLauncherAllUsers=1 TargetDir=\"C:\Program Files\Python312\""

REM Python と Scripts を PATH 先頭に追加
powershell -NoProfile -Command "$p='C:\Program Files\Python312'; $s=\"$p\Scripts\"; $c=[Environment]::GetEnvironmentVariable('Path','Machine'); if((Test-Path $p) -and (';'+$c+';' -notlike \"*;$p;*\") -and (';'+$c+';' -notlike \"*;$s;*\")){[Environment]::SetEnvironmentVariable('Path',\"$p;$s;$c\",'Machine')}"

方法 2：インストーラーによるインストール

  1. Python公式サイト（https://www.python.org/downloads/）にアクセスし、「Download Python 3.x.x」ボタンからWindows用インストーラーをダウンロードする。
  2. ダウンロードしたインストーラーを実行する。
  3. 初期画面の下部に表示される「Add python.exe to PATH」にチェックを入れてから「Customize installation」を選択する。このチェックを入れ忘れると、コマンドプロンプトから python コマンドを実行できない。
  4. 「Install Python 3.xx for all users」にチェックを入れ、「Install」をクリックする。

インストールの確認

コマンドプロンプトで以下を実行する。

python --version

バージョン番号（例：Python 3.12.x）が表示されればインストール成功である。「'python' は、内部コマンドまたは外部コマンドとして認識されていません。」と表示される場合は、インストールが正常に完了していない。

Python の開発環境 Visual Studio Code のインストールと Python 用の設定

Python の開発環境Visual Studio Code（プログラムを編集するソフトウェア。以下、VS Code）を整える。

[Windows での Visual Studio Code のインストールと Python 用の設定手順を見るには、ここをクリック]

Windows での Visual Studio Code のインストールと Python 用の設定手順

1. VS Code と拡張機能のインストール

以下のコマンドにより，既存の VS Code を削除し，全ユーザー共有の設定で再インストールしたうえで，拡張機能（VS Code に機能を追加するソフトウェア）をまとめて導入する．

【インストールコマンドの実行方法】

管理者権限でコマンドプロンプトを起動する（手順：Windows キーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」）。そして，コマンド全体をコマンドプロンプトにコピー＆ペーストする。

インストールコマンド


REM ============================================================
REM Microsoft Visual Studio Code
REM ============================================================
winget uninstall -e --id Microsoft.VisualStudioCode --silent --disable-interactivity --accept-source-agreements
rmdir /s /q C:\ProgramData\vscode-extensions 2>nul
rmdir /s /q "%APPDATA%\Code" 2>nul
rmdir /s /q "%USERPROFILE%\.vscode" 2>nul
rmdir /s /q "%LOCALAPPDATA%\Microsoft\vscode-update" 2>nul

REM VS Code をシステム領域に新規インストール
winget install --scope machine --id Microsoft.VisualStudioCode -e --silent --accept-source-agreements --accept-package-agreements

REM 全ユーザー共有の拡張機能フォルダ
mkdir C:\ProgramData\vscode-extensions 2>nul
icacls "C:\ProgramData\vscode-extensions" /grant "Everyone:(OI)(CI)M" /T

REM スタートメニューのショートカットを --extensions-dir 付きで再作成
rmdir /s /q "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code" 2>nul
del "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk" 2>nul
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); $lnk.TargetPath='C:\Program Files\Microsoft VS Code\Code.exe'; $lnk.Arguments='--extensions-dir \"C:\ProgramData\vscode-extensions\"'; $lnk.Save()"
REM ショートカットの検証
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); Write-Host 'TargetPath:' $lnk.TargetPath; Write-Host 'Arguments:' $lnk.Arguments"

REM ファイル / フォルダ右クリックの「Code で開く」を登録
reg add "HKLM\SOFTWARE\Classes\*\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\Background\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%V\"" /f

REM --extensions-dir 付きで起動する code.cmd ラッパを作成
REM （%* を echo で書くと対話的 cmd で失われるため、PowerShell で [char]37+'*' を書き出す）
powershell -NoProfile -Command "$pct=[char]37; $q=[char]34; $c='@echo off'+[char]13+[char]10+$q+'C:\Program Files\Microsoft VS Code\bin\code.cmd'+$q+' --extensions-dir '+$q+'C:\ProgramData\vscode-extensions'+$q+' '+$pct+'*'+[char]13+[char]10; [IO.File]::WriteAllText('C:\ProgramData\vscode-extensions\vscode.cmd',$c,[Text.Encoding]::ASCII)"

REM 拡張機能のインストール
set "CODE=C:\Program Files\Microsoft VS Code\bin\code.cmd"
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot-chat
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.python
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.vscode-pylance
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.debugpy
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension MS-CEINTL.vscode-language-pack-ja
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension saoudrizwan.claude-dev
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension rust-lang.rust-analyzer
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension tamasfe.even-better-toml
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension anthropic.claude-code
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension almenon.arepl
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --list-extensions --show-versions
echo === セットアップ完了 ===

2. Python インタプリタの選択

同一マシンに複数の Python がインストールされている場合，VS Code で使用する Python 本体（インタプリタ：Python プログラムを解釈・実行するソフトウェア）を選択する必要がある．

  1. コマンドパレット（コマンド名で機能を呼び出す VS Code の入力欄）を開く（Ctrl+Shift+P）
  2. Python: Select Interpreter と入力する
  3. 表示される一覧から，使用する Python（例：C:\Program Files\Python312\python.exe）を選択する．

Python プログラム実行手順

[Windows での Python プログラム実行手順を見るには、ここをクリック]

Windows での Python 実行手順（Visual Studio Codeを使用）

プログラムファイルの作成と保存

  1. 左サイドバーの「エクスプローラー」アイコン（Ctrl+Shift+E）をクリックする
  2. 「NO FOLDER OPENED」（作業対象フォルダが未選択の状態）と表示される場合は，「Open Folder」をクリックし，プログラムを保存するフォルダを選択する

    続いて「フォルダを信用するか」を確認する画面（フォルダ内のコードを実行してよいか確認する VS Code の仕組み）が表示されるので，チェックして Yes を選択する

  3. フォルダ名の右側に表示される「新しいファイル」アイコンをクリックする
  4. ファイル名（例：aitask.py．ファイル名は何でも良い）を入力し Enter を押す．拡張子は .py（Python ファイルを示す拡張子）とする
  5. 実行したいコードを選択し，Ctrl+C でコピーする．VS Code のエディタ領域に Ctrl+V で貼り付ける
  6. Ctrl+S で保存する

プログラムの実行

  1. エディタ右上の三角形「▷」アイコン（Run Python File：現在開いている Python ファイルを実行するボタン）をクリックする．または，エディタ上で右クリックし「ターミナルで Python ファイルを実行」を選択する
  2. VS Code 下部のターミナル（コマンドの入出力を表示する画面）に，実行結果（print 関数の出力等）が表示される
  3. tkinter（Python 標準の GUI ライブラリ）のファイル選択ダイアログを使うプログラムを実行した場合は，ダイアログが開くので対象画像を選択する
  4. VS Code 下部のターミナルで実行結果を確認する．OpenCV ウィンドウ（OpenCV が画像を表示するために開く専用ウィンドウ）が開いた場合はそちらも確認する．OpenCV ウィンドウは，マウスクリックでウィンドウをアクティブ（操作対象の状態）にしてからキーを押すと終了する

2. 必要なライブラリのインストール

管理者権限でコマンドプロンプトを起動する （手順：Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」）。

起動したコマンドプロンプトで以下を実行する。

python -m pip install -U --no-user pip setuptools numpy pandas matplotlib seaborn scikit-learn

3. 実行のための準備とその確認手順（Windows 前提）

3.1 プログラムファイルの準備

第5章の演習で示すコードをテキストエディタ（Visual Studio Code やメモ帳など）に貼り付けて保存する（文字コード：UTF-8）。

3.2 実行コマンド

コマンドプロンプトで，保存したプログラムファイルのあるディレクトリに移動し，python に続けてそのファイル名を指定して実行する．

3.3 動作確認チェックリスト

確認項目期待される結果
Iris データセットの読み込みiris.head() により先頭5行が表示される
データの形と次元の確認iris.shape が (150, 5)，iris.ndim が 2 と表示される
0〜3 列目の表示iris.iloc[:,0:4] により 150 行 × 4 列の数値データが表示される
VBGMM によるクラスタリングbgmm.predict(X) により 150 個のクラスタラベル（整数）が表示される
各クラスタの重みの確認重みが 0.01 を超えるクラスタのみが番号と重み付きで表示される
クラスタリング結果のプロットPCA による2次元散布図が表示され，クラスタごとに色分けされている
Iris データセットのプロット（比較用）PCA による2次元散布図が表示され，品種（species）ごとに色分けされている

4. 概要・使い方・実行上の注意

4.1 Iris データセット

Iris データセットは seaborn の load_dataset 関数で読み込む．サイズは 150 × 5，次元数は 2 である．最後の列（species）は花の品種を表す．クラスタリングには 0〜3 列目（sepal_length, sepal_width, petal_length, petal_width）を使用する．

4.2 VBGMM によるクラスタリング

BayesianGaussianMixture に最大クラスタ数（n_components=10）を指定し，fit でモデルを学習させた後，predict で各データ点のクラスタラベルを取得する．random_state=42 を指定し，実行結果の再現性を確保している．

4.3 クラスタの重みの確認

VBGMM は，データに適合するクラスタにだけ大きな重みを割り当てる．bgmm.weights_（各クラスタの重みを並べた配列）を参照し，重みが 0.01 を超えるクラスタを表示することで，有効クラスタ数を確認できる．

4.4 主成分分析による可視化

クラスタリング結果は，PCA で2次元に次元削減し散布図で可視化する．pcaplot 関数は，PCA を適用し第1・第2主成分を軸とする散布図を描画する．ラベルごとに色分けし凡例を表示する．クラスタリング結果と元の品種ラベルのプロットを比較することで，VBGMM の分類のようすを視覚的に確認できる．

5. 演習：VBGMM による Iris データのクラスタリングと可視化

テーマ名：VBGMM を用いた Iris データのクラスタリングと，PCA による結果の可視化．

手順：次のコードを順に実行する（メモ帳を用いる場合は a.py のようなファイル名で保存して実行）。各コードは上から順に同じプログラムとして実行することを想定している．

Iris データセットを読み込み，データの確認を行う．

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.decomposition import PCA
from sklearn.mixture import BayesianGaussianMixture

sns.set()
iris = sns.load_dataset('iris')
print(iris.head())

形と次元を確認する．サイズは 150 × 5，次元数は 2．最後の列（species）は花の品種を表すデータである．

print(iris.shape)
print(iris.ndim)

Iris データセットの 0, 1, 2, 3 列目を表示する．

print(iris.iloc[:, 0:4])

散布図への主成分分析プロットを準備する．

# 主成分分析で n 個の成分を得る
def prin(A, n):
    return PCA(n_components=n).fit_transform(A)

# M の最初の 2 列を，b で色分けしてプロット．b はラベル
def scatter_label_plot(M, b, alpha):
    a12 = pd.DataFrame(M[:, 0:2], columns=['a1', 'a2'])
    f = pd.factorize(b)
    a12['target'] = f[0]
    g = sns.scatterplot(x='a1', y='a2', hue='target', data=a12, palette=sns.color_palette("hls", np.max(f[0]) + 1), legend="full", alpha=alpha)
    for i, label in enumerate(f[1]):
        g.legend_.get_texts()[i].set_text(label)
    plt.show()

# 主成分分析プロット
def pcaplot(A, b, alpha):
    scatter_label_plot(prin(A, 2), b, alpha)

Iris データセットの 0〜3 列目について，VBGMM でクラスタリングを行う．

X = iris.iloc[:, 0:4].values
bgmm = BayesianGaussianMixture(n_components=10, random_state=42).fit(X)
c = bgmm.predict(X)
print(c)

各クラスタの重みを確認する．

for i, w in enumerate(bgmm.weights_):
    if w > 0.01:
        print(f"クラスタ {i}: 重み {w:.4f}")

結果をプロットする．

pcaplot(X, c, 1)

比較のため，Iris データセットを品種ラベルでプロットする．

pcaplot(X, iris.iloc[:, 4], 1)

ヒント：重みを表示するループでは，0.01 を超える重みを持つクラスタだけが出力される．出力されたクラスタの個数が，VBGMM が実際に使った有効クラスタ数の目安になる．

考察ポイント：有効クラスタ数として表示された個数が，Iris の品種数（3）とどの程度一致するかを確認する．また，クラスタリング結果の散布図と品種ラベルの散布図を見比べ，色分けの対応関係がどの程度合っているかを読み取る．

6. まとめ