SYNTHIA データセット
【概要】
SYNTHIA は,コンピュータグラフィックスで生成された都市の運転シーンの画像を集めたデータセットである(SYNTHIA は SYNTHetic collection of Imagery and Annotations の略)。仮想都市から描画されたフォトリアルな画像に,画素単位のセマンティックセグメンテーション(画像の各画素がどの物体に属するかを塗り分ける処理)用の正解ラベル(ground truth)が付いている。自動運転のためのシーン理解を主な用途として想定している。
おもな特徴は次のとおりである。ビデオストリームから抽出された HD 画像が 200,000 枚以上,独立したスナップショットの HD 画像が 20,000 枚以上ある。シーンの種類は European style town(ヨーロッパ風の町),modern city(近代的な都市),highway(高速道路),green area(緑地)である。動的オブジェクトの種類は car(自動車),pedestrian(歩行者),cyclist(自転車に乗る人)である。季節は winter(冬),fall(秋),spring(春),summer(夏)に対応する。画素単位の正解ラベルは 13 クラス(misc, sky, building, road, sidewalk, fence, vegetation, pole, car, sign, pedestrian, cyclist, lane-marking)について用意されている。
【目次】
【関連する外部ページ】
【サイト内の関連情報】
第1章 SYNTHIA データセットのダウンロード手順
利用条件(ライセンス)を必ず確認すること。利用条件に同意できない場合は,利用(ダウンロード)しないこと。 SYNTHIA は CC BY-NC-SA 3.0(表示・非営利・継承)ライセンスで公開されており,非商用利用に限られる。
- Web ブラウザで,SYNTHIA データセットの Web ページを開く。
- 「DOWNLOAD」をクリックする。「TERMS OF USE」(利用条件)を選び,内容を確認する。
- ダウンロードするデータを選ぶ。ここでは例として「SYNTHIA-SF」(SYNTHIA-San Francisco。仮想都市から描画された運転シーンのデータセット)を選ぶ。
- SYNTHIA-SF.zip のダウンロードが始まる。
- ダウンロードした zip ファイルを展開する。展開すると,RGB 画像(RGBLeft, RGBRight など)と,画素単位の正解ラベル画像(GTLeft, GTright など),デプス画像(DepthLeft, DepthRight など)のディレクトリ構成になる。
ヒント: 正解ラベル画像は,見た目は真っ黒に近い画像であるが,各画素の画素値がクラス番号を表している。画像ビューアで開いてもラベルの内容は分かりにくいので,プログラムで画素値を読み取って確認するとよい。
考察ポイント
- コンピュータグラフィックスで生成された合成データセットは,実写のデータセット(KITTI,nuScenes など。それぞれ別ページ,別ページで説明)と比べ,正解ラベルを完全かつ低コストに作れるという利点がある。一方で,合成画像で学習したモデルを実写画像に適用すると性能が下がる問題(ドメインギャップ)がある。合成データと実写データの使い分け方を考えてみること。
- 画素単位のセマンティックセグメンテーションの正解ラベルを実写画像に対して人手で作る場合の作業量を見積もり,合成データの利点を定量的に考えてみること。
- 季節(冬・秋・春・夏)や天候の違いが用意されている理由(学習データの多様性と汎化性能の関係)を考えてみること。