kMeans,Mean Shift クラスタリング(Python, Windows / Google Colaboratory を使用)

概要

本記事では,Python と Google Colaboratory を使用して,kMeans クラスタリングおよび Mean Shift クラスタリングを実行する手順を示す.

クラスタリングとは,データの集合を類似性に基づいて複数のグループ(クラスタ)に分割する手法である.本記事では以下の2種類を扱う.

架空データ(2次元正規分布から生成した合成データ)と Iris データセットの2種類を対象に,それぞれ kMeans および Mean Shift クラスタリングを実行し,結果を確認する.scikit-learn の KMeans クラスおよび MeanShift クラスを使用する.

目次

1. 前準備

Python 3.12 のインストール

Pythonのインストールを行い、Pythonのプログラムを実行する環境を整える。扱う環境は、Windows搭載パソコンである。金子研究室では、Python 3.12.10を推奨する。

[Windows での Python 3.12 のインストール手順を見るには、ここをクリック]

Windows での Python 3.12 のインストール

以下のいずれかの方法でPython 3.12をインストールする。Pythonがインストール済みの場合、この手順は不要である。

方法 1:winget によるインストール

インストールコマンドの実行方法

管理者権限コマンドプロンプトを起動する(手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして、コマンド全体をコマンドプロンプトにコピー&ペーストする。

--scope machine を指定することで、システム全体(全ユーザー向け)にインストールされる。このオプションの実行には管理者権限が必要である。インストール完了後、コマンドプロンプトを再起動するとPATHが反映される。

REM Python 3.12 をシステム領域にインストール
winget install --id Python.Python.3.12 -e --scope machine --silent --accept-source-agreements --accept-package-agreements --override "/quiet InstallAllUsers=1 PrependPath=1 Include_test=0 Include_pip=1 Include_launcher=1 InstallLauncherAllUsers=1 TargetDir=\"C:\Program Files\Python312\""

REM Python と Scripts を PATH 先頭に追加
powershell -NoProfile -Command "$p='C:\Program Files\Python312'; $s=\"$p\Scripts\"; $c=[Environment]::GetEnvironmentVariable('Path','Machine'); if((Test-Path $p) -and (';'+$c+';' -notlike \"*;$p;*\") -and (';'+$c+';' -notlike \"*;$s;*\")){[Environment]::SetEnvironmentVariable('Path',\"$p;$s;$c\",'Machine')}"

方法 2:インストーラーによるインストール

  1. Python公式サイト(https://www.python.org/downloads/)にアクセスし、「Download Python 3.x.x」ボタンからWindows用インストーラーをダウンロードする。
  2. ダウンロードしたインストーラーを実行する。
  3. 初期画面の下部に表示される「Add python.exe to PATH」にチェックを入れてから「Customize installation」を選択する。このチェックを入れ忘れると、コマンドプロンプトから python コマンドを実行できない。
  4. 「Install Python 3.xx for all users」にチェックを入れ、「Install」をクリックする。

インストールの確認

コマンドプロンプトで以下を実行する。

python --version

バージョン番号(例:Python 3.12.x)が表示されればインストール成功である。「'python' は、内部コマンドまたは外部コマンドとして認識されていません。」と表示される場合は、インストールが正常に完了していない。

Python の開発環境 Visual Studio Code のインストールと Python 用の設定

Python の開発環境Visual Studio Code(プログラムを編集するソフトウェア。以下、VS Code)を整える。

[Windows での Visual Studio Code のインストールと Python 用の設定手順を見るには、ここをクリック]

Windows での Visual Studio Code のインストールと Python 用の設定手順

1. VS Code と拡張機能のインストール

以下のコマンドにより,既存の VS Code を削除し,全ユーザー共有の設定で再インストールしたうえで,拡張機能(VS Code に機能を追加するソフトウェア)をまとめて導入する.

インストールコマンドの実行方法

管理者権限コマンドプロンプトを起動する(手順:Windows キーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして,コマンド全体をコマンドプロンプトにコピー&ペーストする。

インストールコマンド


REM ============================================================
REM Microsoft Visual Studio Code
REM ============================================================
winget uninstall -e --id Microsoft.VisualStudioCode --silent --disable-interactivity --accept-source-agreements
rmdir /s /q C:\ProgramData\vscode-extensions 2>nul
rmdir /s /q "%APPDATA%\Code" 2>nul
rmdir /s /q "%USERPROFILE%\.vscode" 2>nul
rmdir /s /q "%LOCALAPPDATA%\Microsoft\vscode-update" 2>nul

REM VS Code をシステム領域に新規インストール
winget install --scope machine --id Microsoft.VisualStudioCode -e --silent --accept-source-agreements --accept-package-agreements

REM 全ユーザー共有の拡張機能フォルダ
mkdir C:\ProgramData\vscode-extensions 2>nul
icacls "C:\ProgramData\vscode-extensions" /grant "Everyone:(OI)(CI)M" /T

REM スタートメニューのショートカットを --extensions-dir 付きで再作成
rmdir /s /q "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code" 2>nul
del "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk" 2>nul
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); $lnk.TargetPath='C:\Program Files\Microsoft VS Code\Code.exe'; $lnk.Arguments='--extensions-dir \"C:\ProgramData\vscode-extensions\"'; $lnk.Save()"
REM ショートカットの検証
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); Write-Host 'TargetPath:' $lnk.TargetPath; Write-Host 'Arguments:' $lnk.Arguments"

REM ファイル / フォルダ右クリックの「Code で開く」を登録
reg add "HKLM\SOFTWARE\Classes\*\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\Background\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%V\"" /f

REM --extensions-dir 付きで起動する code.cmd ラッパを作成
REM (%* を echo で書くと対話的 cmd で失われるため、PowerShell で [char]37+'*' を書き出す)
powershell -NoProfile -Command "$pct=[char]37; $q=[char]34; $c='@echo off'+[char]13+[char]10+$q+'C:\Program Files\Microsoft VS Code\bin\code.cmd'+$q+' --extensions-dir '+$q+'C:\ProgramData\vscode-extensions'+$q+' '+$pct+'*'+[char]13+[char]10; [IO.File]::WriteAllText('C:\ProgramData\vscode-extensions\vscode.cmd',$c,[Text.Encoding]::ASCII)"

REM 拡張機能のインストール
set "CODE=C:\Program Files\Microsoft VS Code\bin\code.cmd"
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot-chat
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.python
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.vscode-pylance
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.debugpy
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension MS-CEINTL.vscode-language-pack-ja
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension saoudrizwan.claude-dev
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension rust-lang.rust-analyzer
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension tamasfe.even-better-toml
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension anthropic.claude-code
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension almenon.arepl
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --list-extensions --show-versions
echo === セットアップ完了 ===

2. Python インタプリタの選択

同一マシンに複数の Python がインストールされている場合,VS Code で使用する Python 本体(インタプリタ:Python プログラムを解釈・実行するソフトウェア)を選択する必要がある.

  1. コマンドパレット(コマンド名で機能を呼び出す VS Code の入力欄)を開く(Ctrl+Shift+P
  2. Python: Select Interpreter と入力する
  3. 表示される一覧から,使用する Python(例:C:\Program Files\Python312\python.exe)を選択する.

Python プログラム実行手順

[Windows での Python プログラム実行手順を見るには、ここをクリック]

Windows での Python 実行手順(Visual Studio Codeを使用)

プログラムファイルの作成と保存

  1. 左サイドバーの「エクスプローラー」アイコン(Ctrl+Shift+E)をクリックする
  2. 「NO FOLDER OPENED」(作業対象フォルダが未選択の状態)と表示される場合は,「Open Folder」をクリックし,プログラムを保存するフォルダを選択する

    続いて「フォルダを信用するか」を確認する画面(フォルダ内のコードを実行してよいか確認する VS Code の仕組み)が表示されるので,チェックして Yes を選択する

  3. フォルダ名の右側に表示される「新しいファイル」アイコンをクリックする
  4. ファイル名(例:aitask.py.ファイル名は何でも良い)を入力し Enter を押す.拡張子は .py(Python ファイルを示す拡張子)とする
  5. 実行したいコードを選択し,Ctrl+C でコピーする.VS Code のエディタ領域に Ctrl+V で貼り付ける
  6. Ctrl+S で保存する

プログラムの実行

  1. エディタ右上の三角形「▷」アイコン(Run Python File:現在開いている Python ファイルを実行するボタン)をクリックする.または,エディタ上で右クリックし「ターミナルで Python ファイルを実行」を選択する
  2. VS Code 下部のターミナル(コマンドの入出力を表示する画面)に,実行結果(print 関数の出力等)が表示される
  3. tkinter(Python 標準の GUI ライブラリ)のファイル選択ダイアログを使うプログラムを実行した場合は,ダイアログが開くので対象画像を選択する
  4. VS Code 下部のターミナルで実行結果を確認する.OpenCV ウィンドウ(OpenCV が画像を表示するために開く専用ウィンドウ)が開いた場合はそちらも確認する.OpenCV ウィンドウは,マウスクリックでウィンドウをアクティブ(操作対象の状態)にしてからキーを押すと終了する

2. 必要なライブラリのインストール

管理者権限コマンドプロンプトを起動する (手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。

起動したコマンドプロンプトで以下を実行する.Google Colaboratory を使用する場合,これらのライブラリはあらかじめインストールされているため,この手順は不要である.

pip install -U --no-user numpy matplotlib scikit-learn pandas seaborn

3. 実行のための準備とその確認手順(Windows 前提)

3.1 プログラムファイルの準備

本記事のプログラムは Google Colaboratory 上での実行を前提としている.Google Colaboratory を使用する場合は,ノートブックを新規作成し,各コードをセルに貼り付けて順番に実行する.

Windows 上でローカル実行する場合は,各コードをテキストエディタ(メモ帳等)に貼り付けて保存する(文字コード:UTF-8).

3.2 実行コマンド

Google Colaboratory を使用する場合は,各セルの実行ボタン(▶)をクリックするか,Shift+Enter でセルを実行する.

Windows のコマンドプロンプトで実行する場合は,保存したファイルのあるディレクトリに移動し,python コマンドに保存したファイル名を続けて実行する.

3.3 動作確認チェックリスト

確認項目期待される結果
架空データの合成20個(N1=10, N2=10)の2次元データが数値配列として表示される
架空データのプロット20個のデータが赤丸で散布図にプロットされる
架空データの kMeans クラスタリングクラスタ数2で各データ点のクラスタラベル(0または1)が表示される
架空データの kMeans 結果の可視化クラスタリング結果が色分けされた散布図として表示される
架空データの Mean Shift クラスタリングクラスタ数が自動的に決定され,各データ点のクラスタラベルが表示される
Iris データセットの読み込み・表示150行5列のデータが表示される
Iris データセットの数値変換種名が 0, 1, 2 に置き換えられた数値行列が表示される
Iris データの kMeans クラスタリングクラスタ数3で各データ点のクラスタラベル(0, 1, 2)が表示される
Iris データの kMeans 結果の可視化sepal_length と sepal_width を軸とした色分け散布図が表示される
Iris データの Mean Shift クラスタリングクラスタ数が自動的に決定され,各データ点のクラスタラベルが表示される

4. 概要・使い方・実行上の注意

4.1 架空データ

架空のデータを合成する.N1, N2 はデータの個数,c1, c2 は平均,sd1, sd2 は標準偏差である.2つの正規分布からそれぞれ10個ずつ,合計20個の2次元データを生成し,結合する.

生成したデータをプロットして確認する.20 個のデータがプロットされる.

kMeans クラスタリングでは,クラスタ数を 2 に設定し,scikit-learn の KMeans クラスの fit_predict メソッドで各データ点のクラスタラベルを取得する.結果は色分け散布図で確認できる.

Mean Shift クラスタリングでは,scikit-learn の MeanShift クラスを使用する.kMeans と異なり,クラスタ数の事前指定は不要である(データの密度分布から自動的に決定される).

4.2 Iris データセット

Iris データセット(アヤメ3種の花の計測データ)をクラスタリングする.データの読み込みには seaborn の load_dataset 関数を使用する.

Iris データセットを数値の行列に変換する.文字列 'setosa','versicolor','virginica' は,0, 1, 2 に置き換える.

kMeans クラスタリングでは,0, 1, 2, 3 列目を使い,クラスタ数を 3 に設定する.結果は第0列(sepal_length)と第1列(sepal_width)を軸とした散布図で確認できる.

Mean Shift クラスタリングでは,同じく 0, 1, 2, 3 列目を使う.

5. 演習1:架空データのクラスタリング

テーマ名:2つの正規分布から合成した架空データに対する kMeans と Mean Shift の比較

手順:

  1. 2つの正規分布(平均 (0,0) と (3,5),標準偏差 1)からそれぞれ10個ずつ,合計20個の2次元データを合成する.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    import numpy as np
    N1, N2 = 10, 10
    c1, c2 = (0, 0), (3, 5)
    sd1, sd2 = 1, 1
    a1 = np.column_stack([np.random.normal(c1[0], sd1, N1), np.random.normal(c1[1], sd1, N1)])
    a2 = np.column_stack([np.random.normal(c2[0], sd2, N2), np.random.normal(c2[1], sd2, N2)])
    a = np.concatenate([a1, a2])
    print(a)
    
  2. 合成したデータを散布図で確認する.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    import matplotlib.pyplot as plt
    plt.style.use('ggplot')
    plt.plot(a[:,0], a[:,1], 'ro')
    plt.show()
    
  3. クラスタ数を 2 に設定して kMeans クラスタリングを行い,クラスタラベルを表示する.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    from sklearn.cluster import KMeans
    c = KMeans(n_clusters=2).fit_predict(a)
    print(c)
    
  4. kMeans の結果を色分け散布図で確認する.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    plt.scatter(a[:,0], a[:,1], c=c, cmap='viridis')
    plt.title('kMeans Clustering')
    plt.show()
    
  5. クラスタ数を指定せずに Mean Shift クラスタリングを行い,クラスタラベルを表示する.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    from sklearn.cluster import MeanShift
    c = MeanShift().fit_predict(a)
    print(c)
    

ヒント:kMeans は n_clusters でクラスタ数を指定する.Mean Shift は n_clusters を指定しない.クラスタラベルは fit_predict の戻り値で得られる.

考察ポイント:kMeans のラベル(0 または 1)と Mean Shift が自動決定したクラスタ数を見比べ,元の2つの正規分布の分かれ方とどの程度一致しているかを読み取る.

6. 演習2:Iris データセットのクラスタリング

テーマ名:Iris データセットの4特徴量に対する kMeans と Mean Shift のクラスタリング

手順:

  1. seaborn から Iris データセットを読み込む.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    import pandas as pd
    import seaborn as sns
    sns.set()
    iris = sns.load_dataset('iris')
    
  2. データセットの内容を表示する.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    print(iris)
    
  3. 種名の文字列を 0, 1, 2 に置き換え,数値の行列に変換する.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    a = iris.values.copy()
    a[:,4] = iris['species'].map({'setosa':0, 'versicolor':1, 'virginica':2}).values
    print(a)
    

    (以下省略)
  4. 0, 1, 2, 3 列目を使い,クラスタ数を 3 に設定して kMeans クラスタリングを行う.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    x = a[:,(0, 1, 2, 3)].astype(float)
    from sklearn.cluster import KMeans
    c = KMeans(n_clusters=3).fit_predict(x)
    print(c)
    
  5. 第0列(sepal_length)と第1列(sepal_width)を軸として,kMeans の結果を散布図で確認する.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    plt.scatter(x[:,0], x[:,1], c=c, cmap='viridis')
    plt.xlabel('sepal_length')
    plt.ylabel('sepal_width')
    plt.title('kMeans Clustering (Iris)')
    plt.show()
    
  6. 同じく 0, 1, 2, 3 列目を使い,Mean Shift クラスタリングを行う.次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行).
    x = a[:,(0, 1, 2, 3)].astype(float)
    from sklearn.cluster import MeanShift
    c = MeanShift().fit_predict(x)
    print(c)
    

ヒント:Iris データには種名の列が含まれるため,iris.values は文字列を含む配列になる.数値計算に渡す前に数値型へそろえる必要がある.kMeans は n_clusters=3,Mean Shift は指定なしで実行する.

考察ポイント:kMeans が出力した3つのクラスタと,種名から変換した 0, 1, 2 の対応関係を読み取る.また Mean Shift が自動決定したクラスタ数が3になるかどうかを確認する.

7. まとめ