Pandas データフレームの基本情報の表示,散布図、要約統計量、ヒストグラム(Python, pandas, matplotlib, Iris データセットを使用)(Google Colaboratroy へのリンク有り)
【概要】
Python の pandas データフレームを用いた基本情報の表示,散布図,要約統計量,ヒストグラムについて,プログラム例とともに説明する.本資料は,データ分析の最初の段階にあたる探索的データ解析(データの全体像や分布,変数間の関係を表や図で把握する作業)を,pandas,matplotlib,seaborn を用いて行う方法を示す入門資料である.
seaborn に付属する Iris データセット(アヤメ150件の花の計測値)と titanic データセット(タイタニック号の乗客記録)を使用し,以下の操作をプログラム例とともに説明する.
- pandas データフレームの基本的な情報の表示(head, shape, ndim, columns, info(), dtypes)
- matplotlib を用いた散布図の作成
- describe() による各属性の要約統計量(総数,平均,標準偏差,最小,四分位点,中央値,最大)の表示
- matplotlib を用いたヒストグラム(1次元・2次元)の作成
【その他情報】
Google Colaboratory のページ:
次のリンクをクリックすると,Google Colaboratory のノートブックが開く. Google アカウントでログインすると,Google Colaboratory のノートブック内のコード等を編集・再実行できる.編集しても,他の人に影響はない.編集後のものは,各自の Google ドライブ内に保存できる.
https://colab.research.google.com/drive/1LfMuE3IVYKhXb57YGdsX_dmfnTvj5oKb?usp=sharing
【目次】
1. 前準備
Python 3.12 のインストール
Pythonのインストールを行い、Pythonのプログラムを実行する環境を整える。扱う環境は、Windows搭載パソコンである。金子研究室では、Python 3.12.10を推奨する。
[Windows での Python 3.12 のインストール手順を見るには、ここをクリック]
Windows での Python 3.12 のインストール
以下のいずれかの方法でPython 3.12をインストールする。Pythonがインストール済みの場合、この手順は不要である。
方法 1:winget によるインストール
【インストールコマンドの実行方法】
管理者権限でコマンドプロンプトを起動する(手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして、コマンド全体をコマンドプロンプトにコピー&ペーストする。
--scope machine を指定することで、システム全体(全ユーザー向け)にインストールされる。このオプションの実行には管理者権限が必要である。インストール完了後、コマンドプロンプトを再起動するとPATHが反映される。
REM Python 3.12 をシステム領域にインストール
winget install --id Python.Python.3.12 -e --scope machine --silent --accept-source-agreements --accept-package-agreements --override "/quiet InstallAllUsers=1 PrependPath=1 Include_test=0 Include_pip=1 Include_launcher=1 InstallLauncherAllUsers=1 TargetDir=\"C:\Program Files\Python312\""
REM Python と Scripts を PATH 先頭に追加
powershell -NoProfile -Command "$p='C:\Program Files\Python312'; $s=\"$p\Scripts\"; $c=[Environment]::GetEnvironmentVariable('Path','Machine'); if((Test-Path $p) -and (';'+$c+';' -notlike \"*;$p;*\") -and (';'+$c+';' -notlike \"*;$s;*\")){[Environment]::SetEnvironmentVariable('Path',\"$p;$s;$c\",'Machine')}"
方法 2:インストーラーによるインストール
- Python公式サイト(https://www.python.org/downloads/)にアクセスし、「Download Python 3.x.x」ボタンからWindows用インストーラーをダウンロードする。
- ダウンロードしたインストーラーを実行する。
- 初期画面の下部に表示される「Add python.exe to PATH」にチェックを入れてから「Customize installation」を選択する。このチェックを入れ忘れると、コマンドプロンプトから
pythonコマンドを実行できない。 - 「Install Python 3.xx for all users」にチェックを入れ、「Install」をクリックする。
インストールの確認
コマンドプロンプトで以下を実行する。
python --version
バージョン番号(例:Python 3.12.x)が表示されればインストール成功である。「'python' は、内部コマンドまたは外部コマンドとして認識されていません。」と表示される場合は、インストールが正常に完了していない。
Python の開発環境 Visual Studio Code のインストールと Python 用の設定
Python の開発環境Visual Studio Code(プログラムを編集するソフトウェア。以下、VS Code)を整える。
[Windows での Visual Studio Code のインストールと Python 用の設定手順を見るには、ここをクリック]
Windows での Visual Studio Code のインストールと Python 用の設定手順
1. VS Code と拡張機能のインストール
以下のコマンドにより,既存の VS Code を削除し,全ユーザー共有の設定で再インストールしたうえで,拡張機能(VS Code に機能を追加するソフトウェア)をまとめて導入する.
【インストールコマンドの実行方法】
管理者権限でコマンドプロンプトを起動する(手順:Windows キーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。そして,コマンド全体をコマンドプロンプトにコピー&ペーストする。
インストールコマンド
REM ============================================================
REM Microsoft Visual Studio Code
REM ============================================================
winget uninstall -e --id Microsoft.VisualStudioCode --silent --disable-interactivity --accept-source-agreements
rmdir /s /q C:\ProgramData\vscode-extensions 2>nul
rmdir /s /q "%APPDATA%\Code" 2>nul
rmdir /s /q "%USERPROFILE%\.vscode" 2>nul
rmdir /s /q "%LOCALAPPDATA%\Microsoft\vscode-update" 2>nul
REM VS Code をシステム領域に新規インストール
winget install --scope machine --id Microsoft.VisualStudioCode -e --silent --accept-source-agreements --accept-package-agreements
REM 全ユーザー共有の拡張機能フォルダ
mkdir C:\ProgramData\vscode-extensions 2>nul
icacls "C:\ProgramData\vscode-extensions" /grant "Everyone:(OI)(CI)M" /T
REM スタートメニューのショートカットを --extensions-dir 付きで再作成
rmdir /s /q "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code" 2>nul
del "C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk" 2>nul
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); $lnk.TargetPath='C:\Program Files\Microsoft VS Code\Code.exe'; $lnk.Arguments='--extensions-dir \"C:\ProgramData\vscode-extensions\"'; $lnk.Save()"
REM ショートカットの検証
powershell -NoProfile -Command "$s=New-Object -ComObject WScript.Shell; $lnk=$s.CreateShortcut('C:\ProgramData\Microsoft\Windows\Start Menu\Programs\Visual Studio Code.lnk'); Write-Host 'TargetPath:' $lnk.TargetPath; Write-Host 'Arguments:' $lnk.Arguments"
REM ファイル / フォルダ右クリックの「Code で開く」を登録
reg add "HKLM\SOFTWARE\Classes\*\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%1\"" /f
reg add "HKLM\SOFTWARE\Classes\Directory\Background\shell\VSCode\command" /ve /d "\"C:\Program Files\Microsoft VS Code\Code.exe\" --extensions-dir \"C:\ProgramData\vscode-extensions\" \"%V\"" /f
REM --extensions-dir 付きで起動する code.cmd ラッパを作成
REM (%* を echo で書くと対話的 cmd で失われるため、PowerShell で [char]37+'*' を書き出す)
powershell -NoProfile -Command "$pct=[char]37; $q=[char]34; $c='@echo off'+[char]13+[char]10+$q+'C:\Program Files\Microsoft VS Code\bin\code.cmd'+$q+' --extensions-dir '+$q+'C:\ProgramData\vscode-extensions'+$q+' '+$pct+'*'+[char]13+[char]10; [IO.File]::WriteAllText('C:\ProgramData\vscode-extensions\vscode.cmd',$c,[Text.Encoding]::ASCII)"
REM 拡張機能のインストール
set "CODE=C:\Program Files\Microsoft VS Code\bin\code.cmd"
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --uninstall-extension GitHub.copilot-chat
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.python
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.vscode-pylance
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension ms-python.debugpy
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension MS-CEINTL.vscode-language-pack-ja
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension saoudrizwan.claude-dev
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension rust-lang.rust-analyzer
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension tamasfe.even-better-toml
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension anthropic.claude-code
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --install-extension almenon.arepl
"%CODE%" --extensions-dir "C:\ProgramData\vscode-extensions" --list-extensions --show-versions
echo === セットアップ完了 ===
2. Python インタプリタの選択
同一マシンに複数の Python がインストールされている場合,VS Code で使用する Python 本体(インタプリタ:Python プログラムを解釈・実行するソフトウェア)を選択する必要がある.
- コマンドパレット(コマンド名で機能を呼び出す VS Code の入力欄)を開く(
Ctrl+Shift+P) Python: Select Interpreterと入力する
- 表示される一覧から,使用する Python(例:
C:\Program Files\Python312\python.exe)を選択する.
Python プログラム実行手順
[Windows での Python プログラム実行手順を見るには、ここをクリック]
Windows での Python 実行手順(Visual Studio Codeを使用)
プログラムファイルの作成と保存
- 左サイドバーの「エクスプローラー」アイコン(
Ctrl+Shift+E)をクリックする
- 「NO FOLDER OPENED」(作業対象フォルダが未選択の状態)と表示される場合は,「Open Folder」をクリックし,プログラムを保存するフォルダを選択する
続いて「フォルダを信用するか」を確認する画面(フォルダ内のコードを実行してよいか確認する VS Code の仕組み)が表示されるので,チェックして Yes を選択する
- フォルダ名の右側に表示される「新しいファイル」アイコンをクリックする
- ファイル名(例:
aitask.py.ファイル名は何でも良い)を入力しEnterを押す.拡張子は.py(Python ファイルを示す拡張子)とする
- 実行したいコードを選択し,
Ctrl+Cでコピーする.VS Code のエディタ領域にCtrl+Vで貼り付ける Ctrl+Sで保存する
プログラムの実行
- エディタ右上の三角形「▷」アイコン(Run Python File:現在開いている Python ファイルを実行するボタン)をクリックする.または,エディタ上で右クリックし「ターミナルで Python ファイルを実行」を選択する
- VS Code 下部のターミナル(コマンドの入出力を表示する画面)に,実行結果(
print関数の出力等)が表示される
- tkinter(Python 標準の GUI ライブラリ)のファイル選択ダイアログを使うプログラムを実行した場合は,ダイアログが開くので対象画像を選択する
- VS Code 下部のターミナルで実行結果を確認する.OpenCV ウィンドウ(OpenCV が画像を表示するために開く専用ウィンドウ)が開いた場合はそちらも確認する.OpenCV ウィンドウは,マウスクリックでウィンドウをアクティブ(操作対象の状態)にしてからキーを押すと終了する
2. 必要なライブラリのインストール
管理者権限でコマンドプロンプトを起動する
(手順:Windowsキーまたはスタートメニュー → cmd と入力 → 右クリック → 「管理者として実行」)。
起動したコマンドプロンプトで以下を実行する.
python -m pip install -U --no-user pip setuptools numpy pandas matplotlib seaborn scikit-learn
3. 実行のための準備とその確認手順(Windows 前提)
本資料の各コードをテキストエディタ(Visual Studio Codeやメモ帳など)に貼り付けて保存(文字コード:UTF-8)し,実行する.
Google Colaboratory を使用する場合は,以下のリンクからノートブックを開き,各セルを順に実行する.
https://colab.research.google.com/drive/1LfMuE3IVYKhXb57YGdsX_dmfnTvj5oKb?usp=sharing
動作確認チェックリスト
| 確認項目 | 期待される結果 |
|---|---|
| iris データセットの読み込み | エラーなく読み込まれ,head() で先頭5行が表示される |
| 基本的な情報の表示(iris) | head(), info(), shape, ndim, columns, dtypes の各結果が表示される |
| Iris データセットの2列目・3列目の表示 | iris.iloc[:,1] と iris.iloc[:,2] の値が表示される |
| 散布図の表示 | 2列目と3列目の散布図(赤い丸)が軸ラベル付きで表示される |
| 1次元ヒストグラムの表示 | 2列目,3列目それぞれのヒストグラムが軸ラベル付きで表示される |
| 2次元ヒストグラムの表示 | 2列目と3列目の2次元ヒストグラムが軸ラベルおよびカラーバー付きで表示される |
4. 概要・使い方・実行上の注意
4.1 データセットの準備
scikit-learn の load_iris 関数で Iris データセットを読み込み,head() で先頭部分を確認する.
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.iloc[:, :4]
iris.columns = ['sepal_length', 'sepal_width', 'petal_length', 'petal_width']
print(iris.head())
4.2 基本的な情報の表示
pandas データフレームの基本情報は,以下のメソッド・属性で表示できる.
- head: 先頭部分の表示
- shape: サイズ(行数と列数)
- ndim: 次元数
- columns: 属性名(列名)
- info(): 各列のデータ型と非欠損値の数などの一覧
- dtypes: 各列のデータ型一覧
print(iris.head())
print(iris.info())
print(iris.shape)
print(iris.ndim)
print(iris.columns)
print(iris.dtypes)
読み込んだ Iris データセットの全体を表示する.
print(iris)
Iris データセットの2列目と3列目を表示する.オブジェクト iris には 0, 1, 2, 3列目がある.
print(iris.iloc[:,1])
print(iris.iloc[:,2])
4.3 散布図
iloc(行・列を整数の位置で指定して取り出す機能)で Iris データセットの特定の列を取り出し,plt.plot で散布図を描画する.オブジェクト iris には 0, 1, 2, 3列目がある.「plt.style.use('ggplot')」はグラフの書式設定,「ro」は赤い丸のマーカー指定である.
import matplotlib.pyplot as plt
plt.style.use('ggplot')
plt.plot(iris.iloc[:,1], iris.iloc[:,2], 'ro')
plt.xlabel(iris.columns[1])
plt.ylabel(iris.columns[2])
plt.show()
4.4 ヒストグラム
plt.hist で1次元ヒストグラムを,plt.hist2d で2次元ヒストグラムを描画する.対象は Iris データセットの2列目と3列目である.
import matplotlib.pyplot as plt
plt.style.use('ggplot')
plt.hist(iris.iloc[:,1])
plt.xlabel(iris.columns[1])
plt.show()
plt.hist(iris.iloc[:,2])
plt.xlabel(iris.columns[2])
plt.show()
import matplotlib.pyplot as plt
plt.style.use('ggplot')
plt.hist2d(iris.iloc[:,1], iris.iloc[:,2])
plt.xlabel(iris.columns[1])
plt.ylabel(iris.columns[2])
plt.colorbar()
plt.show()
5. 演習1:基本情報の確認
テーマ名:Iris データセットの基本情報を読み取る.
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,Iris データセットの shape,columns,dtypes の出力を確認する.
ヒント:shape は(行数, 列数)のタプルを返す.info() では各列の非欠損値の数も表示される.
考察ポイント:行数と列数はいくつか.各列のデータ型は何か.欠損値のある列はあるか.
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.iloc[:, :4]
iris.columns = ['sepal_length', 'sepal_width', 'petal_length', 'petal_width']
print(iris.head())
print(iris.info())
print(iris.shape)
print(iris.ndim)
print(iris.columns)
print(iris.dtypes)
6. 演習2:散布図による関係の把握
テーマ名:Iris データセットの2つの属性の関係を散布図で確認する.
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,2列目(sepal_width)と3列目(petal_length)の散布図を表示する.次に iris.iloc の列番号を別の組み合わせに変えて再実行する.
ヒント:列番号は0から始まる.軸ラベルは iris.columns[列番号] で自動的に対応する列名になる.
考察ポイント:点の散らばり方から,2つの属性に関係がありそうか.点がいくつかのまとまりに分かれて見えるか.
import matplotlib.pyplot as plt
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.iloc[:, :4]
iris.columns = ['sepal_length', 'sepal_width', 'petal_length', 'petal_width']
plt.style.use('ggplot')
plt.plot(iris.iloc[:,1], iris.iloc[:,2], 'ro')
plt.xlabel(iris.columns[1])
plt.ylabel(iris.columns[2])
plt.show()
7. 演習3:分布の把握
テーマ名:ヒストグラムと2次元ヒストグラムで分布を確認する.
手順:次のコードを実行(メモ帳を用いる場合は a.py のようなファイル名で保存して実行)し,1次元ヒストグラムと2次元ヒストグラムを表示する.
ヒント:1次元ヒストグラムは1つの属性の度数分布を,2次元ヒストグラムは2つの属性の組み合わせごとの度数を色の濃淡で表す.カラーバーは色と度数の対応を示す.
考察ポイント:分布の山は1つか複数か.2次元ヒストグラムで度数が集中している領域はどこか.
import matplotlib.pyplot as plt
import pandas as pd
from sklearn.datasets import load_iris
iris_data = load_iris(as_frame=True)
iris = iris_data.frame.iloc[:, :4]
iris.columns = ['sepal_length', 'sepal_width', 'petal_length', 'petal_width']
plt.style.use('ggplot')
plt.hist(iris.iloc[:,1])
plt.xlabel(iris.columns[1])
plt.show()
plt.hist(iris.iloc[:,2])
plt.xlabel(iris.columns[2])
plt.show()
plt.hist2d(iris.iloc[:,1], iris.iloc[:,2])
plt.xlabel(iris.columns[1])
plt.ylabel(iris.columns[2])
plt.colorbar()
plt.show()
8. まとめ
本資料では,Iris データセットを用いて,pandas データフレームの基本情報の表示,散布図,ヒストグラム(1次元・2次元)という探索的データ解析の基本操作を,プログラム例とともに説明した.head(),shape,info() などでデータの全体像をつかみ,散布図とヒストグラムで分布や変数間の関係を視覚的に把握する流れを示した.