Pandas データフレームの集計・集約(グループごとの数え上げ,最大,最小,平均,中央値,和)(Python, pandas, Iris データセット, titanic データセットを使用)(Google Colaboratory へのリンクあり)

概要

Python の pandas データフレームを用いたグループごとの集計・集約(数え上げ,最大,最小,平均,中央値,和)について,プログラム例で説明する.特定の列でグループを作り,各グループの要素数,最大,最小,平均,中央値,和を求める.集計には pandas の groupby(指定した列の値が同じ行をまとめる機能)を用い,データセットとして Iris と titanic を使う.

この資料の URL: https://www.kkaneko.jp/cc/od/group.html

Google Colaboratory のページ:

次のリンクをクリックすると,Google Colaboratory のノートブックが開く.Google アカウントでログインすると,ノートブック内のコード等を編集・再実行できる.編集しても他の人に影響はない.編集後のものは各自の Google ドライブに保存できる.

https://colab.research.google.com/drive/1UxKjDODi08fFwuJu9MC9wiykD4zbmxHh?usp=sharing

目次

関連する外部ページ

Google ColaboratoryGoogle アカウント

サイト内の関連情報

管理者権限コマンドプロンプト

1. 前準備

Python 3.12 のインストール

Pythonのインストールを行い、Pythonのプログラムを実行する環境を整える。扱う環境は、Windows搭載パソコンである。金子研究室では、Python 3.12.10を推奨する。

[Windows での Python 3.12 のインストール手順を見るには、ここをクリック]

Windows での Python 3.12 のインストール

以下のいずれかの方法でPython 3.12をインストールする。Pythonがインストール済みの場合、この手順は不要である。

方法 1:winget によるインストール

インストールコマンドの実行方法

管理者権限コマンドプロンプトを起動する(手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして、コマンド全体をコマンドプロンプトにコピー&ペーストする。

--scope machine を指定することで、システム全体(全ユーザー向け)にインストールされる。このオプションの実行には管理者権限が必要である。インストール完了後、コマンドプロンプトを再起動するとPATHが反映される。

REM Python 3.12 をシステム領域にインストール
winget install --id Python.Python.3.12 -e --scope machine --silent --accept-source-agreements --accept-package-agreements --override "/quiet InstallAllUsers=1 PrependPath=1 Include_test=0 Include_pip=1 Include_launcher=1 InstallLauncherAllUsers=1 TargetDir=\"C:\Program Files\Python312\""

REM Python と Scripts を PATH 先頭に追加
powershell -NoProfile -Command "$p='C:\Program Files\Python312'; $s=\"$p\Scripts\"; $c=[Environment]::GetEnvironmentVariable('Path','Machine'); if((Test-Path $p) -and (';'+$c+';' -notlike \"*;$p;*\") -and (';'+$c+';' -notlike \"*;$s;*\")){[Environment]::SetEnvironmentVariable('Path',\"$p;$s;$c\",'Machine')}"

方法 2:インストーラーによるインストール

  1. Python公式サイト(https://www.python.org/downloads/)にアクセスし、「Download Python 3.x.x」ボタンからWindows用インストーラーをダウンロードする。
  2. ダウンロードしたインストーラーを実行する。
  3. 初期画面の下部に表示される「Add python.exe to PATH」にチェックを入れてから「Customize installation」を選択する。このチェックを入れ忘れると、コマンドプロンプトから python コマンドを実行できない。
  4. 「Install Python 3.xx for all users」にチェックを入れ、「Install」をクリックする。

インストールの確認

コマンドプロンプトで以下を実行する。

python --version

バージョン番号(例:Python 3.12.x)が表示されればインストール成功である。「'python' は、内部コマンドまたは外部コマンドとして認識されていません。」と表示される場合は、インストールが正常に完了していない。

Python の開発環境 Visual Studio Code のインストールと Python 用の設定

Python の開発環境Visual Studio Code(プログラムを編集するソフトウェア。以下、VS Code)を整える。

[Windows での Visual Studio Code のインストールと Python 用の設定手順を見るには、ここをクリック]

Windows での Visual Studio Code のインストールと Python 用の設定手順

1. VS Code と拡張機能のインストール

以下のコマンドにより,既存の VS Code を削除し,全ユーザー共有の設定で再インストールしたうえで,拡張機能(VS Code に機能を追加するソフトウェア)をまとめて導入する.

インストールコマンドの実行方法

管理者権限コマンドプロンプトを起動する(手順:Windows キーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして,コマンド全体をコマンドプロンプトにコピー&ペーストする。

インストールコマンド


REM ============================================================
REM Microsoft Visual Studio Code
REM ============================================================
winget uninstall -e --id Microsoft.VisualStudioCode --silent --disable-interactivity --accept-source-agreements
rmdir /s /q C:\ProgramData\vscode-extensions 2>nul
rmdir /s /q "%APPDATA%\Code" 2>nul
rmdir /s /q "%USERPROFILE%\.vscode" 2>nul
rmdir /s /q "%LOCALAPPDATA%\Microsoft\vscode-update" 2>nul

REM VS Code をシステム領域に新規インストール
winget install --scope machine --id Microsoft.VisualStudioCode -e --silent --accept-source-agreements --accept-package-agreements

REM 全ユーザー共有の拡張機能フォルダ
mkdir C:\ProgramData\vscode-extensions 2>nul
icacls "C:\ProgramData\vscode-extensions" /grant "Everyone:(OI)(CI)M" /T

REM スタートメニューのショートカットを --extensions-dir 付きで再作成
rmdir /s /q "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code" 2>nul
del "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk" 2>nul
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); $lnk.TargetPath='C:\Program Files\Microsoft VS Code\Code.exe'; $lnk.Arguments='--extensions-dir \"C:\ProgramData\vscode-extensions\"'; $lnk.Save()"
REM ショートカットの検証
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); Write-Host 'TargetPath:' $lnk.TargetPath; Write-Host 'Arguments:' $lnk.Arguments"

REM ファイル / フォルダ右クリックの「Code で開く」を登録
reg add "HKLM\SOFTWARE\Classes\*\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\Background\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%V\"" /f

REM --extensions-dir 付きで起動する code.cmd ラッパを作成
REM (%* を echo で書くと対話的 cmd で失われるため、PowerShell で [char]37+'*' を書き出す)
powershell -NoProfile -Command "$pct=[char]37; $q=[char]34; $c='@echo off'+[char]13+[char]10+$q+'C:\Program Files\Microsoft VS Code\bin\code.cmd'+$q+' --extensions-dir '+$q+'C:\ProgramData\vscode-extensions'+$q+' '+$pct+'*'+[char]13+[char]10; [IO.File]::WriteAllText('C:\ProgramData\vscode-extensions\vscode.cmd',$c,[Text.Encoding]::ASCII)"

REM 拡張機能のインストール
set "CODE=C:\Program Files\Microsoft VS Code\bin\code.cmd"
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot-chat
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.python
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.vscode-pylance
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.debugpy
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension MS-CEINTL.vscode-language-pack-ja
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension saoudrizwan.claude-dev
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension rust-lang.rust-analyzer
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension tamasfe.even-better-toml
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension anthropic.claude-code
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension almenon.arepl
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --list-extensions --show-versions
echo === セットアップ完了 ===

2. Python インタプリタの選択

同一マシンに複数の Python がインストールされている場合,VS Code で使用する Python 本体(インタプリタ:Python プログラムを解釈・実行するソフトウェア)を選択する必要がある.

  1. コマンドパレット(コマンド名で機能を呼び出す VS Code の入力欄)を開く(Ctrl+Shift+P
  2. Python: Select Interpreter と入力する
  3. 表示される一覧から,使用する Python(例:C:\Program Files\Python312\python.exe)を選択する.

Python プログラム実行手順

[Windows での Python プログラム実行手順を見るには、ここをクリック]

Windows での Python 実行手順(Visual Studio Codeを使用)

プログラムファイルの作成と保存

  1. 左サイドバーの「エクスプローラー」アイコン(Ctrl+Shift+E)をクリックする
  2. 「NO FOLDER OPENED」(作業対象フォルダが未選択の状態)と表示される場合は,「Open Folder」をクリックし,プログラムを保存するフォルダを選択する

    続いて「フォルダを信用するか」を確認する画面(フォルダ内のコードを実行してよいか確認する VS Code の仕組み)が表示されるので,チェックして Yes を選択する

  3. フォルダ名の右側に表示される「新しいファイル」アイコンをクリックする
  4. ファイル名(例:aitask.py.ファイル名は何でも良い)を入力し Enter を押す.拡張子は .py(Python ファイルを示す拡張子)とする
  5. 実行したいコードを選択し,Ctrl+C でコピーする.VS Code のエディタ領域に Ctrl+V で貼り付ける
  6. Ctrl+S で保存する

プログラムの実行

  1. エディタ右上の三角形「▷」アイコン(Run Python File:現在開いている Python ファイルを実行するボタン)をクリックする.または,エディタ上で右クリックし「ターミナルで Python ファイルを実行」を選択する
  2. VS Code 下部のターミナル(コマンドの入出力を表示する画面)に,実行結果(print 関数の出力等)が表示される
  3. tkinter(Python 標準の GUI ライブラリ)のファイル選択ダイアログを使うプログラムを実行した場合は,ダイアログが開くので対象画像を選択する
  4. VS Code 下部のターミナルで実行結果を確認する.OpenCV ウィンドウ(OpenCV が画像を表示するために開く専用ウィンドウ)が開いた場合はそちらも確認する.OpenCV ウィンドウは,マウスクリックでウィンドウをアクティブ(操作対象の状態)にしてからキーを押すと終了する

2. 必要なライブラリのインストール

管理者権限コマンドプロンプトを起動する (手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。

起動したコマンドプロンプトで以下を実行する.

python -m pip install -U --no-user pip setuptools pandas

3. 実行のための準備とその確認手順(Windows 前提)

各演習のソースコードをテキストエディタ(Visual Studio Code やメモ帳など)に貼り付け,文字コード UTF-8 で保存し,実行する.

動作確認チェックリスト

確認項目期待される結果
iris データセットの読み込みiris.head() で sepal_length,sepal_width,petal_length,petal_width,species の5列が表示される
iris のグループごとの数え上げiris.groupby('species').size() で setosa,versicolor,virginica の要素数が表示される
iris のグループごとの集計iris.groupby('species') に対し max,min,mean,median,sum の各結果が表示される

4. 概要・使い方・実行上の注意

4.1 Iris データセットの準備

scikit-learn の load_iris 関数で iris を読み込む.読み込んだデータを pandas のデータフレームとして整える.head() で先頭行を表示し,内容を確認する.

4.2 グループごとの数え上げ

特定の列でグループを作り,各グループの要素数を求める.groupby でグループ化し,size() で各グループの要素数を取得する.iris では 'species' 列でグループ化する.

value_counts でも同等の結果が得られるが,結果を出現回数の多い順(降順)に並べて返す点が異なる(size() はグループのラベル順で返す).

4.3 グループごとの最大,最小,平均,中央値,和

特定の列でグループを作り,各グループの最大,最小,平均,中央値,和を求める.groupby でグループ化し,max()min()mean()median()sum() で集計する.numeric_only=True を指定すると,数値列のみが対象になる.pandas 2.0 以降では numeric_only のデフォルトが False であり,非数値列を含むデータフレームでこの引数を省略すると,数値計算ができない列でエラーになるため,明示的に指定する.

agg メソッドを使うと,複数の集計関数を一度に適用できる.集計関数をリストで指定すると,1回の呼び出しで結果を得られる.

5. 演習1:iris データセットの読み込み

手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,iris を読み込む.

ヒント:scikit-learn の load_iris で読み込み,pandas のデータフレームとして扱う.

考察ポイント:読み込んだデータが,pandas のデータフレームとして扱えることを確認する.

import pandas as pd
from sklearn.datasets import load_iris

iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
    'sepal length (cm)': 'sepal_length',
    'sepal width (cm)': 'sepal_width',
    'petal length (cm)': 'petal_length',
    'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])
print(iris)

6. 演習2:データの確認

手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,データの先頭行を表示する.

ヒントhead() はデータフレームの先頭の数行を返す.

考察ポイント:iris に,どのような列が含まれているかを読み取る.

import pandas as pd
from sklearn.datasets import load_iris

iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
    'sepal length (cm)': 'sepal_length',
    'sepal width (cm)': 'sepal_width',
    'petal length (cm)': 'petal_length',
    'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])

print(iris.head())

7. 演習3:グループごとの数え上げ(groupby と size を使用)

手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,各グループの要素数を求める.

ヒントgroupby でグループ化し,size() で各グループの行数を得る.

考察ポイント:iris の3つの種(species)ごとの要素数を読み取る.

import pandas as pd
from sklearn.datasets import load_iris

iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
    'sepal length (cm)': 'sepal_length',
    'sepal width (cm)': 'sepal_width',
    'petal length (cm)': 'petal_length',
    'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])

print( iris.groupby('species').size() )

8. 演習4:グループごとの数え上げ(value_counts を使用)

手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,value_counts で各値の出現回数を求める.

ヒントvalue_counts は対象の列(Series)に対して呼び出す.

考察ポイントsize() の結果と並び順を比べ,value_counts が出現回数の多い順(降順)に返すことを読み取る.

import pandas as pd
from sklearn.datasets import load_iris

iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
    'sepal length (cm)': 'sepal_length',
    'sepal width (cm)': 'sepal_width',
    'petal length (cm)': 'petal_length',
    'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])

print(iris['species'].value_counts())

9. 演習5:グループごとの最大,最小,平均,中央値,和

手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,各グループの最大,最小,平均,中央値,和を求める.

ヒントnumeric_only=True を指定すると,数値列だけが集計の対象になる.

考察ポイント:5種類の集計結果が,グループごとにどう異なるかを読み取る.

import pandas as pd
from sklearn.datasets import load_iris

iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
    'sepal length (cm)': 'sepal_length',
    'sepal width (cm)': 'sepal_width',
    'petal length (cm)': 'petal_length',
    'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])

print( iris.groupby('species').max(numeric_only=True) )
print( iris.groupby('species').min(numeric_only=True) )
print( iris.groupby('species').mean(numeric_only=True) )
print( iris.groupby('species').median(numeric_only=True) )
print( iris.groupby('species').sum(numeric_only=True) )

10. 演習6:複数の集計を一括で行う(agg を使用)

手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,agg で複数の集計を一度に行う.

ヒント:集計関数の名前をリストで agg に渡す.

考察ポイント:1回の呼び出しで複数の集計結果がまとめて得られることを,演習5の結果と比べて読み取る.

import pandas as pd
from sklearn.datasets import load_iris

iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
    'sepal length (cm)': 'sepal_length',
    'sepal width (cm)': 'sepal_width',
    'petal length (cm)': 'petal_length',
    'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])

print(iris.groupby('species').agg(['max', 'min', 'mean', 'median', 'sum']))

11. まとめ

pandas の groupby によるグループ化

groupby を使うと,データフレームの特定の列を基準にグループを作れる.iris では 'species' 列でグループ化した.

グループごとの数え上げ

groupbysize() の組み合わせで各グループの要素数を求められる.value_counts でも同等の結果が得られるが,結果を出現回数の多い順(降順)に並べて返す点が異なる.

グループごとの集計(最大,最小,平均,中央値,和)

groupby の後に max()min()mean()median()sum() を呼び出すと集計できる.numeric_only=True を指定すると,数値列のみが対象になる.

agg による一括集計

agg を使うと,複数の集計関数を一度に適用できる.集計関数をリストで指定すると,1回の呼び出しで結果を得られる.

scikit-learn によるデータセットの読み込み

scikit-learn の load_iris で iris を pandas のデータフレームとして読み込める.head() で先頭行を表示し,内容を確認できる.