OpenCV で GrabCut 法による前景背景分離を行ってみる(Python を使用)

概要

本記事では,OpenCV の GrabCut 法を用いて,Python で画像およびビデオの前景背景分離を行う方法を説明する.GrabCut 法は,矩形領域の指定により前景と背景を自動分離するアルゴリズムである.本記事では,静止画像(home.jpg,aloeL.jpg)に対する前景分離,動画ファイル(sample1.mp4)に対するフレームごとの前景分離,およびパソコン接続ビデオカメラによるリアルタイム前景分離の3つを扱う.

目次

関連する外部ページ

サイト内の関連情報

1. Python 3.12 のインストール

Pythonのインストールを行い、Pythonのプログラムを実行する環境を整える。扱う環境は、Windows搭載パソコンである。金子研究室では、Python 3.12.10を推奨する。

[Windows での Python 3.12 のインストール手順を見るには、ここをクリック]

Windows での Python 3.12 のインストール

以下のいずれかの方法でPython 3.12をインストールする。Pythonがインストール済みの場合、この手順は不要である。

方法 1:winget によるインストール

インストールコマンドの実行方法

管理者権限コマンドプロンプトを起動する(手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして、コマンド全体をコマンドプロンプトにコピー&ペーストする。

--scope machine を指定することで、システム全体(全ユーザー向け)にインストールされる。このオプションの実行には管理者権限が必要である。インストール完了後、コマンドプロンプトを再起動するとPATHが反映される。

REM Python 3.12 をシステム領域にインストール
winget install --id Python.Python.3.12 -e --scope machine --silent --accept-source-agreements --accept-package-agreements --override "/quiet InstallAllUsers=1 PrependPath=1 Include_test=0 Include_pip=1 Include_launcher=1 InstallLauncherAllUsers=1 TargetDir=\"C:\Program Files\Python312\""

REM Python と Scripts を PATH 先頭に追加
powershell -NoProfile -Command "$p='C:\Program Files\Python312'; $s=\"$p\Scripts\"; $c=[Environment]::GetEnvironmentVariable('Path','Machine'); if((Test-Path $p) -and (';'+$c+';' -notlike \"*;$p;*\") -and (';'+$c+';' -notlike \"*;$s;*\")){[Environment]::SetEnvironmentVariable('Path',\"$p;$s;$c\",'Machine')}"

方法 2:インストーラーによるインストール

  1. Python公式サイト(https://www.python.org/downloads/)にアクセスし、「Download Python 3.x.x」ボタンからWindows用インストーラーをダウンロードする。
  2. ダウンロードしたインストーラーを実行する。
  3. 初期画面の下部に表示される「Add python.exe to PATH」にチェックを入れてから「Customize installation」を選択する。このチェックを入れ忘れると、コマンドプロンプトから python コマンドを実行できない。
  4. 「Install Python 3.xx for all users」にチェックを入れ、「Install」をクリックする。

インストールの確認

コマンドプロンプトで以下を実行する。

python --version

バージョン番号(例:Python 3.12.x)が表示されればインストール成功である。「'python' は、内部コマンドまたは外部コマンドとして認識されていません。」と表示される場合は、インストールが正常に完了していない。

2. Python の開発環境 Visual Studio Code のインストールと Python 用の設定

Python の開発環境Visual Studio Code(プログラムを編集するソフトウェア。以下、VS Code)を整える。

[Windows での Visual Studio Code のインストールと Python 用の設定手順を見るには、ここをクリック]

Windows での Visual Studio Code のインストールと Python 用の設定手順

1. VS Code と拡張機能のインストール

以下のコマンドにより,既存の VS Code を削除し,全ユーザー共有の設定で再インストールしたうえで,拡張機能(VS Code に機能を追加するソフトウェア)をまとめて導入する.

インストールコマンドの実行方法

管理者権限コマンドプロンプトを起動する(手順:Windows キーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして,コマンド全体をコマンドプロンプトにコピー&ペーストする。

インストールコマンド


REM ============================================================
REM Microsoft Visual Studio Code
REM ============================================================
winget uninstall -e --id Microsoft.VisualStudioCode --silent --disable-interactivity --accept-source-agreements
rmdir /s /q C:\ProgramData\vscode-extensions 2>nul
rmdir /s /q "%APPDATA%\Code" 2>nul
rmdir /s /q "%USERPROFILE%\.vscode" 2>nul
rmdir /s /q "%LOCALAPPDATA%\Microsoft\vscode-update" 2>nul

REM VS Code をシステム領域に新規インストール
winget install --scope machine --id Microsoft.VisualStudioCode -e --silent --accept-source-agreements --accept-package-agreements

REM 全ユーザー共有の拡張機能フォルダ
mkdir C:\ProgramData\vscode-extensions 2>nul
icacls "C:\ProgramData\vscode-extensions" /grant "Everyone:(OI)(CI)M" /T

REM スタートメニューのショートカットを --extensions-dir 付きで再作成
rmdir /s /q "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code" 2>nul
del "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk" 2>nul
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); $lnk.TargetPath='C:\Program Files\Microsoft VS Code\Code.exe'; $lnk.Arguments='--extensions-dir \"C:\ProgramData\vscode-extensions\"'; $lnk.Save()"
REM ショートカットの検証
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); Write-Host 'TargetPath:' $lnk.TargetPath; Write-Host 'Arguments:' $lnk.Arguments"

REM ファイル / フォルダ右クリックの「Code で開く」を登録
reg add "HKLM\SOFTWARE\Classes\*\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\Background\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%V\"" /f

REM --extensions-dir 付きで起動する code.cmd ラッパを作成
REM (%* を echo で書くと対話的 cmd で失われるため、PowerShell で [char]37+'*' を書き出す)
powershell -NoProfile -Command "$pct=[char]37; $q=[char]34; $c='@echo off'+[char]13+[char]10+$q+'C:\Program Files\Microsoft VS Code\bin\code.cmd'+$q+' --extensions-dir '+$q+'C:\ProgramData\vscode-extensions'+$q+' '+$pct+'*'+[char]13+[char]10; [IO.File]::WriteAllText('C:\ProgramData\vscode-extensions\vscode.cmd',$c,[Text.Encoding]::ASCII)"

REM 拡張機能のインストール
set "CODE=C:\Program Files\Microsoft VS Code\bin\code.cmd"
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot-chat
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.python
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.vscode-pylance
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.debugpy
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension MS-CEINTL.vscode-language-pack-ja
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension saoudrizwan.claude-dev
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension rust-lang.rust-analyzer
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension tamasfe.even-better-toml
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension anthropic.claude-code
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension almenon.arepl
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --list-extensions --show-versions
echo === セットアップ完了 ===

2. Python インタプリタの選択

同一マシンに複数の Python がインストールされている場合,VS Code で使用する Python 本体(インタプリタ:Python プログラムを解釈・実行するソフトウェア)を選択する必要がある.

  1. コマンドパレット(コマンド名で機能を呼び出す VS Code の入力欄)を開く(Ctrl+Shift+P
  2. Python: Select Interpreter と入力する
  3. 表示される一覧から,使用する Python(例:C:\Program Files\Python312\python.exe)を選択する.

3. Python プログラム実行手順

[Windows での Python プログラム実行手順を見るには、ここをクリック]

Windows での Python 実行手順(Visual Studio Codeを使用)

プログラムファイルの作成と保存

  1. 左サイドバーの「エクスプローラー」アイコン(Ctrl+Shift+E)をクリックする
  2. 「NO FOLDER OPENED」(作業対象フォルダが未選択の状態)と表示される場合は,「Open Folder」をクリックし,プログラムを保存するフォルダを選択する

    続いて「フォルダを信用するか」を確認する画面(フォルダ内のコードを実行してよいか確認する VS Code の仕組み)が表示されるので,チェックして Yes を選択する

  3. フォルダ名の右側に表示される「新しいファイル」アイコンをクリックする
  4. ファイル名(例:aitask.py.ファイル名は何でも良い)を入力し Enter を押す.拡張子は .py(Python ファイルを示す拡張子)とする
  5. 実行したいコードを選択し,Ctrl+C でコピーする.VS Code のエディタ領域に Ctrl+V で貼り付ける
  6. Ctrl+S で保存する

プログラムの実行

  1. エディタ右上の三角形「▷」アイコン(Run Python File:現在開いている Python ファイルを実行するボタン)をクリックする.または,エディタ上で右クリックし「ターミナルで Python ファイルを実行」を選択する
  2. VS Code 下部のターミナル(コマンドの入出力を表示する画面)に,実行結果(print 関数の出力等)が表示される
  3. tkinter(Python 標準の GUI ライブラリ)のファイル選択ダイアログを使うプログラムを実行した場合は,ダイアログが開くので対象画像を選択する
  4. VS Code 下部のターミナルで実行結果を確認する.OpenCV ウィンドウ(OpenCV が画像を表示するために開く専用ウィンドウ)が開いた場合はそちらも確認する.OpenCV ウィンドウは,マウスクリックでウィンドウをアクティブ(操作対象の状態)にしてからキーを押すと終了する

Python の OpenCV ライブラリのインストール [クリックして展開]

Python で OpenCV を使用するためのライブラリである.

管理者権限コマンドプロンプトで以下を実行する。管理者権限のコマンドプロンプトを起動するには、Windows キーまたはスタートメニューから「cmd」と入力し、表示された「コマンドプロンプト」を右クリックして「管理者として実行」を選択する。

python -m pip install -U --no-user opencv-python opencv-contrib-python

4. 実行のための準備とその確認手順(Windows 前提)

4.1 プログラムファイルの準備

第6章のソースコードをテキストエディタ(Visual Studio Codeやメモ帳など)に貼り付け,以下のファイル名で保存する(文字コード:UTF-8).

4.2 実行コマンド

コマンドプロンプトでファイルの保存先ディレクトリに移動し,以下を実行する.

Python プログラムの実行

Python 開発環境(Jupyter Qt Console, Jupyter ノートブック (Jupyter Notebook), Jupyter Lab, Nteract, Spyder, PyCharm, PyScripterなど)も便利である.

Python のまとめ: 別ページ »にまとめ

実行例(静止画像 home.jpg の場合):

python grabcut_home.py

実行例(動画ファイル sample1.mp4 の場合):

python grabcut_video.py

実行例(パソコン接続ビデオカメラの場合):

python grabcut_camera.py

4.3 動作確認チェックリスト

確認項目期待される結果
画像ファイルの存在確認C:\image の下に home.jpg,aloeL.jpg,aloeR.jpg,sample1.mp4 が存在する
静止画プログラム起動時元画像「bgr」,前景分離結果「bgr2」,マスク画像「mask」の3つのウィンドウが表示される
静止画の結果保存C:\image の下に home_grabcut.jpg(または aloeL_grabcut.jpg)が保存される
静止画ウィンドウの終了画面の中をクリックしてからキーを押すとウィンドウが閉じる
動画プログラム起動時元動画「bgr」と前景分離結果「bgr2」がフレームごとに更新表示される
カメラプログラム起動時カメラ映像「f」と前景分離結果「img2」がリアルタイムに表示される
動画・カメラプログラムの終了画面の中をクリックしてから「q」キーを押すとウィンドウが閉じる

5. 概要・使い方・実行上の注意

5.1 使用する画像・動画の準備

画像ファイル home.jpg のダウンロードは, コマンドプロンプト管理者として開き次のコマンドを実行する.

mkdir c:\image
cd c:\image
curl -L https://github.com/opencv/opencv/blob/master/samples/data/home.jpg?raw=true -o home.jpg

上のコマンドがうまく実行できないときは, 別ページを参考にダウンロードを行う.

https://github.com/opencv/opencv/tree/master/samples/data で公開されている home.jpg を使用する(謝辞:画像の作者に感謝します)

5.2 顔が写った動画ファイル

sample1.mp4

sample1.mp4 を,C:\image の下に保存する.

5.3 静止画像の前景分離(GrabCut 法)

GrabCut 法では,画像全体を矩形領域として指定し,cv2.grabCut で前景と背景を分離する.実行すると,元画像,前景分離結果,マスク画像の3つのウィンドウが表示される.前景分離結果は C:\image の下にファイルとして保存される.ソースコードは第6章に掲載する.

画像が表示されるので確認する.ウィンドウの右上の「x」をクリックしない.画面の中をクリックしてから,何かのキーを押して閉じる

別の画像(aloeL.jpg)でも同様に前景分離を行うことができる.

5.4 動画ファイルの前景分離

OpenCV による動画表示を行う.動画ファイル sample1.mp4 の各フレームに GrabCut 法を適用し,前景分離を行う.元動画と前景分離結果が並んで表示される.ソースコードは第6章に掲載する.

* 止めたいとき,右上の「x」をクリックしない.画面の中をクリックしてから,「q」のキーを押して閉じる

5.5 パソコン接続ビデオカメラの前景分離

パソコンに接続できるビデオカメラを準備し,パソコンに接続しておく.動画ファイルのコードに対し,「v = cv2.VideoCapture(0)」に変えただけである.ソースコードは第6章に掲載する.

* 止めたいとき,右上の「x」をクリックしない.画面の中をクリックしてから,「q」のキーを押して閉じる

6. ソースコード

6.1 静止画像の前景分離(home.jpg)

import numpy as np
import cv2
IMROOT = "C:/image/"
bgr = cv2.imread(IMROOT + "home.jpg")
h, w = bgr.shape[:2]
mask = np.zeros((h, w), np.uint8)
bgdModel = np.zeros((1, 65), np.float64)
fgdModel = np.zeros((1, 65), np.float64)
rect = (1, 1, w, h)
cv2.grabCut(bgr, mask, rect, bgdModel, fgdModel, 10, cv2.GC_INIT_WITH_RECT)
mask2 = np.where((mask == 2) | (mask == 0), 0, 1).astype("uint8")
bgr2 = bgr * mask2[:, :, np.newaxis]
mask_display = (mask2 * 255).astype("uint8")
cv2.imshow("bgr", bgr)
cv2.imshow("bgr2", bgr2)
cv2.imshow("mask", mask_display)
cv2.imwrite(IMROOT + "home_grabcut.jpg", bgr2)
cv2.waitKey(0)
cv2.destroyAllWindows()

6.2 静止画像の前景分離(aloeL.jpg)

import numpy as np
import cv2
IMROOT = "C:/image/"
bgr = cv2.imread(IMROOT + "aloeL.jpg")
h, w = bgr.shape[:2]
mask = np.zeros((h, w), np.uint8)
bgdModel = np.zeros((1, 65), np.float64)
fgdModel = np.zeros((1, 65), np.float64)
rect = (1, 1, w, h)
cv2.grabCut(bgr, mask, rect, bgdModel, fgdModel, 10, cv2.GC_INIT_WITH_RECT)
mask2 = np.where((mask == 2) | (mask == 0), 0, 1).astype("uint8")
bgr2 = bgr * mask2[:, :, np.newaxis]
mask_display = (mask2 * 255).astype("uint8")
cv2.imshow("bgr", bgr)
cv2.imshow("bgr2", bgr2)
cv2.imshow("mask", mask_display)
cv2.imwrite(IMROOT + "aloeL_grabcut.jpg", bgr2)
cv2.waitKey(0)
cv2.destroyAllWindows()

6.3 動画ファイルの前景分離(sample1.mp4)

import cv2
import numpy as np

IMROOT = "C:/image/"
v = cv2.VideoCapture(IMROOT + "sample1.mp4")
while v.isOpened():
    r, bgr = v.read()
    if not r:
        break
    h, w = bgr.shape[:2]
    mask = np.zeros((h, w), np.uint8)
    bgdModel = np.zeros((1, 65), np.float64)
    fgdModel = np.zeros((1, 65), np.float64)
    rect = (1, 1, w, h)
    cv2.grabCut(bgr, mask, rect, bgdModel, fgdModel, 10, cv2.GC_INIT_WITH_RECT)
    mask2 = np.where((mask == 2) | (mask == 0), 0, 1).astype("uint8")
    bgr2 = bgr * mask2[:, :, np.newaxis]
    cv2.imshow("bgr", bgr)
    cv2.imshow("bgr2", bgr2)
    if cv2.waitKey(1) & 0xFF == ord("q"):
        break
v.release()
cv2.destroyAllWindows()

6.4 パソコン接続ビデオカメラの前景分離

import cv2
import numpy as np

v = cv2.VideoCapture(0)
while v.isOpened():
    r, f = v.read()
    if not r:
        break
    h, w = f.shape[:2]
    mask = np.zeros((h, w), np.uint8)
    bgdModel = np.zeros((1, 65), np.float64)
    fgdModel = np.zeros((1, 65), np.float64)
    rect = (1, 1, w, h)
    cv2.grabCut(f, mask, rect, bgdModel, fgdModel, 10, cv2.GC_INIT_WITH_RECT)
    mask2 = np.where((mask == 2) | (mask == 0), 0, 1).astype("uint8")
    img2 = f * mask2[:, :, np.newaxis]
    cv2.imshow("f", f)
    cv2.imshow("img2", img2)
    if cv2.waitKey(1) & 0xFF == ord("q"):
        break
v.release()
cv2.destroyAllWindows()

7. まとめ

7.1 GrabCut 法による前景背景分離

cv2.grabCut に矩形領域を指定することで,画像の前景と背景を自動分離できる.マスク配列と背景・前景モデル配列を初期化し,cv2.GC_INIT_WITH_RECT モードで実行する.

7.2 マスクによる前景抽出

GrabCut の出力マスクで,背景(値 0 および 2)を 0,前景(値 1 および 3)を 1 に変換し,元画像に乗算することで前景のみの画像を得る.

7.3 静止画像への適用

home.jpg や aloeL.jpg に対して GrabCut 法を適用し,前景分離結果とマスク画像を表示・保存できる.画像全体を矩形領域として指定する方法で,簡潔に前景分離が実現される.

7.4 動画・カメラ映像への適用

cv2.VideoCapture で動画ファイルまたはビデオカメラからフレームを取得し,各フレームに GrabCut 法を適用することで,動画やリアルタイム映像の前景分離を行える.

7.5 ウィンドウ操作の注意

静止画像の場合はウィンドウの中をクリックしてからキーを押して閉じる.動画・カメラの場合はウィンドウの中をクリックしてから「q」キーを押して閉じる.いずれの場合も,ウィンドウ右上の「x」はクリックしない.