VBGMM (Variational Bayesian Gaussian Mixture) を用いてクラスタリング（Python, scikit-learn を使用）

1. エグゼクティブサマリー

VBGMM (Variational Bayesian Gaussian Mixture) では，クラスタ数を指定せずにクラスタリングを行う．本記事では，Python と scikit-learn を使用し，Iris データセットに VBGMM を適用する．VBGMM は最大クラスタ数のうち，データに適合するクラスタのみに大きな重みを割り当て，有効なクラスタ数を自動的に決定する．クラスタリング結果は主成分分析（PCA）で2次元に次元削減し，散布図として可視化する．元の Iris データセットの品種ラベルによるプロットと比較することで，分類精度を視覚的に評価できる．

2. 前準備（必要ソフトウェアの入手）

ここでは、最低限の事前準備について説明する。機械学習や深層学習を行う場合は、NVIDIA CUDA、Visual Studio、Cursorなどを追加でインストールすると便利である。これらについては別ページ https://www.kkaneko.jp/cc/dev/aiassist.htmlで詳しく解説しているので、必要に応じて参照してください。

winget install -e --id Python.Python.3.12 --scope machine --silent --accept-source-agreements --accept-package-agreements --override "/quiet InstallAllUsers=1 PrependPath=1 AssociateFiles=1 InstallLauncherAllUsers=1"

python --version

winget install -e --id Codeium.Windsurf --scope machine --accept-source-agreements --accept-package-agreements --custom "/SUPPRESSMSGBOXES /MERGETASKS=!runcode,addtopath,associatewithfiles,!desktopicon"
powershell -Command "$env:Path=[System.Environment]::GetEnvironmentVariable('Path','Machine')+';'+[System.Environment]::GetEnvironmentVariable('Path','User'); windsurf --install-extension MS-CEINTL.vscode-language-pack-ja --force; windsurf --install-extension ms-python.python --force; windsurf --install-extension Codeium.windsurfPyright --force"

必要なライブラリのインストール [クリックして展開]

管理者権限のコマンドプロンプトで以下を実行する。管理者権限のコマンドプロンプトを起動するには、Windows キーまたはスタートメニューから「cmd」と入力し、表示された「コマンドプロンプト」を右クリックして「管理者として実行」を選択する。

python -m pip install -U pip setuptools numpy pandas matplotlib seaborn scikit-learn scikit-learn-intelex

3. 実行のための準備とその確認手順（Windows 前提）

3.1 プログラムファイルの準備

第5章に掲載するソースコードをテキストエディタ（メモ帳，Windsurf 等）に貼り付け，vbgmm_iris.py として保存する（文字コード：UTF-8）．

3.2 実行コマンド

コマンドプロンプトでファイルの保存先ディレクトリに移動し，以下を実行する．

python vbgmm_iris.py

3.3 動作確認チェックリスト

4. 概要・使い方・実行上の注意

4.1 Iris データセット

Iris データセットは seaborn の load_dataset 関数で読み込む．サイズは 150 × 5，次元数は 2 である．最後の列（species）は花の種類を表す．クラスタリングには 0〜3 列目（sepal_length, sepal_width, petal_length, petal_width）を使用する．

4.2 VBGMM によるクラスタリング

BayesianGaussianMixture に最大クラスタ数（n_components=10）を指定し，fit でモデルを学習させた後，predict で各データ点のクラスタラベルを取得する．random_state=42 を指定し，実行結果の再現性を確保している．

4.3 クラスタの重みの確認

VBGMM は，データに適合するクラスタのみに大きな重みを割り当てる．bgmm.weights_ を参照し，重みが 0.01 を超えるクラスタを表示することで，有効クラスタ数を確認できる．

4.4 主成分分析による可視化

クラスタリング結果は，PCA で2次元に次元削減し散布図で可視化する．pcaplot 関数は，PCA を適用し第1・第2主成分を軸とする散布図を描画する．ラベルごとに色分けし凡例を表示する．クラスタリング結果と元の品種ラベルのプロットを比較することで，VBGMM の分類精度を視覚的に評価できる．

5. ソースコード

5.1 Iris データセットの読み込みと確認

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.decomposition import PCA
from sklearn.mixture import BayesianGaussianMixture

sns.set()
iris = sns.load_dataset('iris')

データの確認を行う．

print(iris.head())

形と次元を確認する．サイズは 150 × 5，次元数は 2．最後の列（species）は花の種類を表すデータである．

print(iris.shape)
print(iris.ndim)

Iris データセットの 0, 1, 2, 3 列目を表示する．

print( iris.iloc[:,0:4] )

5.2 散布図に主成分分析プロットの準備

# 主成分分析で n 個の成分を得る
def prin(A, n):
    return PCA(n_components=n).fit_transform(A)

# M の最初の 2 列を，b で色分けしてプロット．b はラベル
def scatter_label_plot(M, b, alpha):
    a12 = pd.DataFrame(M[:, 0:2], columns=['a1', 'a2'])
    f = pd.factorize(b)
    a12['target'] = f[0]
    g = sns.scatterplot(x='a1', y='a2', hue='target', data=a12, palette=sns.color_palette("hls", np.max(f[0]) + 1), legend="full", alpha=alpha)
    for i, label in enumerate(f[1]):
        g.legend_.get_texts()[i].set_text(label)
    plt.show()

# 主成分分析プロット
def pcaplot(A, b, alpha):
    scatter_label_plot(prin(A, 2), b, alpha)

5.3 VBGMM によるクラスタリングと結果の表示

Iris データセットの 0〜3 列目について，VBGMM でクラスタリングを行う．

X = iris.iloc[:, 0:4].values
bgmm = BayesianGaussianMixture(n_components=10, random_state=42).fit(X)
c = bgmm.predict(X)
print(c)

各クラスタの重みを確認する．

for i, w in enumerate(bgmm.weights_):
    if w > 0.01:
        print(f"クラスタ {i}: 重み {w:.4f}")

結果をプロットする．

pcaplot(X, c, 1)

比較のため，Iris データセットを品種ラベルでプロットする．

pcaplot(X, iris.iloc[:, 4], 1)

6. まとめ

6.1 VBGMM によるクラスタ数の自動推定

VBGMM では，クラスタ数を指定せずにクラスタリングを行う．最大クラスタ数を指定しておくと，データに適合するクラスタのみに大きな重みが割り当てられ，有効なクラスタ数が自動的に決定される．

6.2 クラスタの重みによる有効クラスタの判定

bgmm.weights_ を参照することで各クラスタの重みを確認できる．重みが 0 に近いクラスタは実質的に使用されておらず，これにより有効クラスタ数を把握できる．

6.3 主成分分析（PCA）による可視化

PCA で2次元に次元削減した散布図により，クラスタリング結果を可視化する．元の品種ラベルによるプロットと比較することで，VBGMM の分類精度を視覚的に評価できる．

6.4 再現性の確保

BayesianGaussianMixture に random_state=42 を指定することで，実行結果の再現性を確保している．