Pandas データフレームの集計・集約(グループごとの数え上げ,最大,最小,平均,中央値,和)(Python, pandas, Iris データセット, titanic データセットを使用)(Google Colaboratory へのリンクあり)
【概要】
Python の pandas データフレームを用いたグループごとの集計・集約(数え上げ,最大,最小,平均,中央値,和)について,プログラム例で説明する.特定の列でグループを作り,各グループの要素数,最大,最小,平均,中央値,和を求める.集計には pandas の groupby(指定した列の値が同じ行をまとめる機能)を用い,データセットとして Iris と titanic を使う.
この資料の URL: https://www.kkaneko.jp/cc/od/group.html
Google Colaboratory のページ:
次のリンクをクリックすると,Google Colaboratory のノートブックが開く.Google アカウントでログインすると,ノートブック内のコード等を編集・再実行できる.編集しても他の人に影響はない.編集後のものは各自の Google ドライブに保存できる.
https://colab.research.google.com/drive/1UxKjDODi08fFwuJu9MC9wiykD4zbmxHh?usp=sharing
【目次】
- 1. 前準備
- 2. 必要なライブラリのインストール
- 3. 実行のための準備とその確認手順(Windows 前提)
- 4. 概要・使い方・実行上の注意
- 5. 演習1:iris,titanic データセットの読み込み
- 6. 演習2:データの確認
- 7. 演習3:グループごとの数え上げ(groupby と size を使用)
- 8. 演習4:グループごとの数え上げ(value_counts を使用)
- 9. 演習5:グループごとの最大,最小,平均,中央値,和
- 10. 演習6:複数の集計を一括で行う(agg を使用)
- 11. まとめ
【関連する外部ページ】
Google Colaboratory,Google アカウント
【サイト内の関連情報】
1. 前準備
Python 3.12 のインストール
Pythonのインストールを行い、Pythonのプログラムを実行する環境を整える。扱う環境は、Windows搭載パソコンである。金子研究室では、Python 3.12.10を推奨する。
[Windows での Python 3.12 のインストール手順を見るには、ここをクリック]
Windows での Python 3.12 のインストール
以下のいずれかの方法でPython 3.12をインストールする。Pythonがインストール済みの場合、この手順は不要である。
方法 1:winget によるインストール
【インストールコマンドの実行方法】
管理者権限でコマンドプロンプトを起動する(手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして、コマンド全体をコマンドプロンプトにコピー&ペーストする。
--scope machine を指定することで、システム全体(全ユーザー向け)にインストールされる。このオプションの実行には管理者権限が必要である。インストール完了後、コマンドプロンプトを再起動するとPATHが反映される。
REM Python 3.12 をシステム領域にインストール
winget install --id Python.Python.3.12 -e --scope machine --silent --accept-source-agreements --accept-package-agreements --override "/quiet InstallAllUsers=1 PrependPath=1 Include_test=0 Include_pip=1 Include_launcher=1 InstallLauncherAllUsers=1 TargetDir=\"C:\Program Files\Python312\""
REM Python と Scripts を PATH 先頭に追加
powershell -NoProfile -Command "$p='C:\Program Files\Python312'; $s=\"$p\Scripts\"; $c=[Environment]::GetEnvironmentVariable('Path','Machine'); if((Test-Path $p) -and (';'+$c+';' -notlike \"*;$p;*\") -and (';'+$c+';' -notlike \"*;$s;*\")){[Environment]::SetEnvironmentVariable('Path',\"$p;$s;$c\",'Machine')}"
方法 2:インストーラーによるインストール
- Python公式サイト(https://www.python.org/downloads/)にアクセスし、「Download Python 3.x.x」ボタンからWindows用インストーラーをダウンロードする。
- ダウンロードしたインストーラーを実行する。
- 初期画面の下部に表示される「Add python.exe to PATH」にチェックを入れてから「Customize installation」を選択する。このチェックを入れ忘れると、コマンドプロンプトから
pythonコマンドを実行できない。 - 「Install Python 3.xx for all users」にチェックを入れ、「Install」をクリックする。
インストールの確認
コマンドプロンプトで以下を実行する。
python --version
バージョン番号(例:Python 3.12.x)が表示されればインストール成功である。「'python' は、内部コマンドまたは外部コマンドとして認識されていません。」と表示される場合は、インストールが正常に完了していない。
Python の開発環境 Visual Studio Code のインストールと Python 用の設定
Python の開発環境Visual Studio Code(プログラムを編集するソフトウェア。以下、VS Code)を整える。
[Windows での Visual Studio Code のインストールと Python 用の設定手順を見るには、ここをクリック]
Windows での Visual Studio Code のインストールと Python 用の設定手順
1. VS Code と拡張機能のインストール
以下のコマンドにより,既存の VS Code を削除し,全ユーザー共有の設定で再インストールしたうえで,拡張機能(VS Code に機能を追加するソフトウェア)をまとめて導入する.
【インストールコマンドの実行方法】
管理者権限でコマンドプロンプトを起動する(手順:Windows キーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして,コマンド全体をコマンドプロンプトにコピー&ペーストする。
インストールコマンド
REM ============================================================
REM Microsoft Visual Studio Code
REM ============================================================
winget uninstall -e --id Microsoft.VisualStudioCode --silent --disable-interactivity --accept-source-agreements
rmdir /s /q C:\ProgramData\vscode-extensions 2>nul
rmdir /s /q "%APPDATA%\Code" 2>nul
rmdir /s /q "%USERPROFILE%\.vscode" 2>nul
rmdir /s /q "%LOCALAPPDATA%\Microsoft\vscode-update" 2>nul
REM VS Code をシステム領域に新規インストール
winget install --scope machine --id Microsoft.VisualStudioCode -e --silent --accept-source-agreements --accept-package-agreements
REM 全ユーザー共有の拡張機能フォルダ
mkdir C:\ProgramData\vscode-extensions 2>nul
icacls "C:\ProgramData\vscode-extensions" /grant "Everyone:(OI)(CI)M" /T
REM スタートメニューのショートカットを --extensions-dir 付きで再作成
rmdir /s /q "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code" 2>nul
del "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk" 2>nul
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); $lnk.TargetPath='C:\Program Files\Microsoft VS Code\Code.exe'; $lnk.Arguments='--extensions-dir \"C:\ProgramData\vscode-extensions\"'; $lnk.Save()"
REM ショートカットの検証
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); Write-Host 'TargetPath:' $lnk.TargetPath; Write-Host 'Arguments:' $lnk.Arguments"
REM ファイル / フォルダ右クリックの「Code で開く」を登録
reg add "HKLM\SOFTWARE\Classes\*\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\Background\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%V\"" /f
REM --extensions-dir 付きで起動する code.cmd ラッパを作成
REM (%* を echo で書くと対話的 cmd で失われるため、PowerShell で [char]37+'*' を書き出す)
powershell -NoProfile -Command "$pct=[char]37; $q=[char]34; $c='@echo off'+[char]13+[char]10+$q+'C:\Program Files\Microsoft VS Code\bin\code.cmd'+$q+' --extensions-dir '+$q+'C:\ProgramData\vscode-extensions'+$q+' '+$pct+'*'+[char]13+[char]10; [IO.File]::WriteAllText('C:\ProgramData\vscode-extensions\vscode.cmd',$c,[Text.Encoding]::ASCII)"
REM 拡張機能のインストール
set "CODE=C:\Program Files\Microsoft VS Code\bin\code.cmd"
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot-chat
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.python
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.vscode-pylance
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.debugpy
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension MS-CEINTL.vscode-language-pack-ja
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension saoudrizwan.claude-dev
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension rust-lang.rust-analyzer
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension tamasfe.even-better-toml
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension anthropic.claude-code
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension almenon.arepl
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --list-extensions --show-versions
echo === セットアップ完了 ===
2. Python インタプリタの選択
同一マシンに複数の Python がインストールされている場合,VS Code で使用する Python 本体(インタプリタ:Python プログラムを解釈・実行するソフトウェア)を選択する必要がある.
- コマンドパレット(コマンド名で機能を呼び出す VS Code の入力欄)を開く(
Ctrl+Shift+P) Python: Select Interpreterと入力する
- 表示される一覧から,使用する Python(例:
C:\Program Files\Python312\python.exe)を選択する.
Python プログラム実行手順
[Windows での Python プログラム実行手順を見るには、ここをクリック]
Windows での Python 実行手順(Visual Studio Codeを使用)
プログラムファイルの作成と保存
- 左サイドバーの「エクスプローラー」アイコン(
Ctrl+Shift+E)をクリックする
- 「NO FOLDER OPENED」(作業対象フォルダが未選択の状態)と表示される場合は,「Open Folder」をクリックし,プログラムを保存するフォルダを選択する
続いて「フォルダを信用するか」を確認する画面(フォルダ内のコードを実行してよいか確認する VS Code の仕組み)が表示されるので,チェックして Yes を選択する
- フォルダ名の右側に表示される「新しいファイル」アイコンをクリックする
- ファイル名(例:
aitask.py.ファイル名は何でも良い)を入力しEnterを押す.拡張子は.py(Python ファイルを示す拡張子)とする
- 実行したいコードを選択し,
Ctrl+Cでコピーする.VS Code のエディタ領域にCtrl+Vで貼り付ける Ctrl+Sで保存する
プログラムの実行
- エディタ右上の三角形「▷」アイコン(Run Python File:現在開いている Python ファイルを実行するボタン)をクリックする.または,エディタ上で右クリックし「ターミナルで Python ファイルを実行」を選択する
- VS Code 下部のターミナル(コマンドの入出力を表示する画面)に,実行結果(
print関数の出力等)が表示される
- tkinter(Python 標準の GUI ライブラリ)のファイル選択ダイアログを使うプログラムを実行した場合は,ダイアログが開くので対象画像を選択する
- VS Code 下部のターミナルで実行結果を確認する.OpenCV ウィンドウ(OpenCV が画像を表示するために開く専用ウィンドウ)が開いた場合はそちらも確認する.OpenCV ウィンドウは,マウスクリックでウィンドウをアクティブ(操作対象の状態)にしてからキーを押すと終了する
2. 必要なライブラリのインストール
管理者権限でコマンドプロンプトを起動する
(手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。
起動したコマンドプロンプトで以下を実行する.
python -m pip install -U --no-user pip setuptools pandas
3. 実行のための準備とその確認手順(Windows 前提)
各演習のソースコードをテキストエディタ(Visual Studio Code やメモ帳など)に貼り付け,文字コード UTF-8 で保存し,実行する.
動作確認チェックリスト
| 確認項目 | 期待される結果 |
|---|---|
| iris データセットの読み込み | iris.head() で sepal_length,sepal_width,petal_length,petal_width,species の5列が表示される |
| iris のグループごとの数え上げ | iris.groupby('species').size() で setosa,versicolor,virginica の要素数が表示される |
| iris のグループごとの集計 | iris.groupby('species') に対し max,min,mean,median,sum の各結果が表示される |
4. 概要・使い方・実行上の注意
4.1 Iris データセットの準備
scikit-learn の load_iris 関数で iris を読み込む.読み込んだデータを pandas のデータフレームとして整える.head() で先頭行を表示し,内容を確認する.
4.2 グループごとの数え上げ
特定の列でグループを作り,各グループの要素数を求める.groupby でグループ化し,size() で各グループの要素数を取得する.iris では 'species' 列でグループ化する.
value_counts でも同等の結果が得られるが,結果を出現回数の多い順(降順)に並べて返す点が異なる(size() はグループのラベル順で返す).
4.3 グループごとの最大,最小,平均,中央値,和
特定の列でグループを作り,各グループの最大,最小,平均,中央値,和を求める.groupby でグループ化し,max(),min(),mean(),median(),sum() で集計する.numeric_only=True を指定すると,数値列のみが対象になる.pandas 2.0 以降では numeric_only のデフォルトが False であり,非数値列を含むデータフレームでこの引数を省略すると,数値計算ができない列でエラーになるため,明示的に指定する.
agg メソッドを使うと,複数の集計関数を一度に適用できる.集計関数をリストで指定すると,1回の呼び出しで結果を得られる.
5. 演習1:iris データセットの読み込み
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,iris を読み込む.
ヒント:scikit-learn の load_iris で読み込み,pandas のデータフレームとして扱う.
考察ポイント:読み込んだデータが,pandas のデータフレームとして扱えることを確認する.
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
'sepal length (cm)': 'sepal_length',
'sepal width (cm)': 'sepal_width',
'petal length (cm)': 'petal_length',
'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])
print(iris)
6. 演習2:データの確認
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,データの先頭行を表示する.
ヒント:head() はデータフレームの先頭の数行を返す.
考察ポイント:iris に,どのような列が含まれているかを読み取る.
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
'sepal length (cm)': 'sepal_length',
'sepal width (cm)': 'sepal_width',
'petal length (cm)': 'petal_length',
'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])
print(iris.head())
7. 演習3:グループごとの数え上げ(groupby と size を使用)
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,各グループの要素数を求める.
ヒント:groupby でグループ化し,size() で各グループの行数を得る.
考察ポイント:iris の3つの種(species)ごとの要素数を読み取る.
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
'sepal length (cm)': 'sepal_length',
'sepal width (cm)': 'sepal_width',
'petal length (cm)': 'petal_length',
'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])
print( iris.groupby('species').size() )
8. 演習4:グループごとの数え上げ(value_counts を使用)
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,value_counts で各値の出現回数を求める.
ヒント:value_counts は対象の列(Series)に対して呼び出す.
考察ポイント:size() の結果と並び順を比べ,value_counts が出現回数の多い順(降順)に返すことを読み取る.
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
'sepal length (cm)': 'sepal_length',
'sepal width (cm)': 'sepal_width',
'petal length (cm)': 'petal_length',
'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])
print(iris['species'].value_counts())
9. 演習5:グループごとの最大,最小,平均,中央値,和
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,各グループの最大,最小,平均,中央値,和を求める.
ヒント:numeric_only=True を指定すると,数値列だけが集計の対象になる.
考察ポイント:5種類の集計結果が,グループごとにどう異なるかを読み取る.
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
'sepal length (cm)': 'sepal_length',
'sepal width (cm)': 'sepal_width',
'petal length (cm)': 'petal_length',
'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])
print( iris.groupby('species').max(numeric_only=True) )
print( iris.groupby('species').min(numeric_only=True) )
print( iris.groupby('species').mean(numeric_only=True) )
print( iris.groupby('species').median(numeric_only=True) )
print( iris.groupby('species').sum(numeric_only=True) )
10. 演習6:複数の集計を一括で行う(agg を使用)
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,agg で複数の集計を一度に行う.
ヒント:集計関数の名前をリストで agg に渡す.
考察ポイント:1回の呼び出しで複数の集計結果がまとめて得られることを,演習5の結果と比べて読み取る.
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.rename(columns={
'sepal length (cm)': 'sepal_length',
'sepal width (cm)': 'sepal_width',
'petal length (cm)': 'petal_length',
'petal width (cm)': 'petal_width'
})
iris['species'] = pd.Categorical.from_codes(iris_data.target, iris_data.target_names)
iris = iris.drop(columns=['target'])
print(iris.groupby('species').agg(['max', 'min', 'mean', 'median', 'sum']))
11. まとめ
pandas の groupby によるグループ化
groupby を使うと,データフレームの特定の列を基準にグループを作れる.iris では 'species' 列でグループ化した.
グループごとの数え上げ
groupby と size() の組み合わせで各グループの要素数を求められる.value_counts でも同等の結果が得られるが,結果を出現回数の多い順(降順)に並べて返す点が異なる.
グループごとの集計(最大,最小,平均,中央値,和)
groupby の後に max(),min(),mean(),median(),sum() を呼び出すと集計できる.numeric_only=True を指定すると,数値列のみが対象になる.
agg による一括集計
agg を使うと,複数の集計関数を一度に適用できる.集計関数をリストで指定すると,1回の呼び出しで結果を得られる.
scikit-learn によるデータセットの読み込み
scikit-learn の load_iris で iris を pandas のデータフレームとして読み込める.head() で先頭行を表示し,内容を確認できる.