PSPNet (Pyramid Scene Parsing Network):ディープラーニングによるSemantic Segmentation手法

FCN, SegNet, U-Netに引き続きディープラーニングによるSemantic Segmentation手法のお勉強。


ディープラーニングによるSemantic Segmentationアルゴリズムまとめ
これまで勉強したディープラーニングによるSemantic Segmentation手法のアルゴリズム一覧。


次はPSPNet (Pyramid Scene Parsing Network)について。


スポンサーリンク

PSPNet (Pyramid Scene Parsing Network)

PSPNet (Pyramid Scene Parsing Network)CVPR 2017で発表されたPyramid Scene Parsing Networkで提案されたSemantic Segmentation手法。



SegNetU-Netの登場以降、ディープラーニングによるSemantic SegmentationではEncoderDecoder構造が定番となった。

PSPNetでは、EncoderResNet101(大規模データで学習済み)の特徴抽出層を利用しており、EncoderDecoderの間にPyramid Pooling Moduleを追加している↓

Fast R-CNNの記事で触れたSPPNetで、似た名前のSpatial Pyramid Pooling(空間ピラミッドプーリング)が使われていた。



同じなのは複数の解像度でmax-poolingを行うという点だけです(笑)


スポンサーリンク

Pyramid Pooling Module

Encoderによって入力画像から抽出された特徴マップのサイズは、ダウンサンプリングされて元の入力画像の1/8になる。
Pyramid Pooling Moduleでは、Encoderで抽出された特徴マップに対して、複数の解像度でmax-poolingをかけてそれぞれのスケールで捉えた特徴マップを得る。これによって、画像の大域的なコンテキストと小さな部分の情報の両方を拾うことができる。

Pyramid Pooling Moduleの階層数や各階層での特徴マップのサイズは、入力される特徴マップのサイズに合わせて設計する。Pyramid Pooling Moduleの階層の数をNとすると、削減後の各特徴マップのチャンネル数は1/Nになる。

論文の例では、以下の図のように階層的に4つの異なるカーネルサイズ(1×1, 2×2, 3×3, 6×6)でmax-poolingを行い、得られた複数スケールの特徴マップを1×1で畳み込んでチャンネル数を削減する。

そして、このチャンネル数を削減した特徴マップをバイリニア補間で元の特徴マップと同じサイズにアップサンプリングする。
アップサンプリングしたこれらの特徴マップを元の特徴マップにチャンネルを追加する形で連結し、大域的なコンテキストと局所的な情報の両方を持った特徴マップとする。
最終的に、この連結した特徴マップに対して1×1の畳み込みを行ってSemantic Segmentationの結果を得る。



あれ、何か妙に情報があっさりだぞ。。。

次はRefineNet (Multi-Path Refinement Network)について勉強しよう。
RefineNet (Multi-Path Refinement Network):ディープラーニングによるSemantic Segmentation手法
FCN, SegNet, U-Net, PSPNetに引き続き、ディープラーニングによるSemantic Segmentation手法のお勉強。次はRefineNet (Multi-Path Refinement Network)に...

ディープラーニングによるSemantic Segmentationアルゴリズムまとめ
これまで勉強したディープラーニングによるSemantic Segmentation手法のアルゴリズム一覧。


スポンサーリンク

関連記事

U-Net:ディープラーニングによるSemantic Segmentation手法
Deep Learningとその他の機械学習手法の性能比較
PyDataTokyo主催のDeep Learning勉強会
写真に3Dオブジェクトを違和感無く合成する『3DPhotoMagic』
UnityでPoint Cloudを表示する方法
GoogleのDeep Learning論文
書籍『OpenCV 3 プログラミングブック』を購入
TorchStudio:PyTorchのための統合開発環境とエコシステム
Structure from Motion (多視点画像からの3次元形状復元)
書籍『イラストで学ぶ ディープラーニング』
スクラッチで既存のキャラクターを立体化したい
OpenAR:OpenCVベースのマーカーARライブラリ
hloc:SuperGlueで精度を向上させたSfM実装
TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク
SDカードサイズのコンピューター『Intel Edison』
ニューラルネットワークと深層学習
Fast R-CNN:ディープラーニングによる一般物体検出手法
fSpy:1枚の写真からカメラパラメーターを割り出すツール
Open3D:3Dデータ処理ライブラリ
全脳アーキテクチャ勉強会
CycleGAN:ドメイン関係を学習した画像変換
画像認識による位置情報取得 - Semi-Direct Monocular Visual Odome...
SONY製のニューラルネットワークライブラリ『NNabla』
機械学習のオープンソースソフトウェアフォーラム『mloss(machine learning ope...
Runway ML:クリエイターのための機械学習ツール
複数画像から3次元形状を再構築するライブラリ『Multi-View Environment』
今年もSSII
OpenGVの用語
ディープラーニング
BlenderProc:Blenderで機械学習用の画像データを生成するPythonツール
AfterEffectsプラグイン開発
オープンソースの顔認識フレームワーク『OpenBR』
TeleSculptor:空撮動画からPhotogrammetryするツール
OpenCVでiPhone6sのカメラをキャリブレーションする
UnityでOpenCVを使うには?
SegNet:ディープラーニングによるSemantic Segmentation手法
iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』
読みやすくて高速なディープラーニングのフレームワーク『Caffe』
オープンソースのロボットアプリケーションフレームワーク『ROS (Robot Operating S...
MeshroomでPhotogrammetry
書籍『3次元コンピュータビジョン計算ハンドブック』を購入
ニューラルネットワークで画像分類

コメント