OpenCVでカメラ画像から自己位置認識 (Visual Odometry)

書籍ROSではじめる ロボットプログラミング」を一通り読み終わって、何となくロボットの自己位置認識の重要性を感じている。



ロボット自身の移動量を計測する手法全般を”Odometry“と言うらしい。
中でも1番簡単なやり方は、車輪などの駆動装置の回転数を加算して移動距離とみなす方法。これはWheel Odometryとか呼ばれるらしい。この手法は手軽だがもちろん欠点もあって、車輪が滑るなどして空転した分も移動量として加算されてしまう。なので、Wheel Odometryではロボットが遠くへ移動するほど、どんどん誤差が溜まってしまう。

これに対して、カメラ画像を使って自己位置認識を行うのがVisual Odometry(VO)という分野。ロボットの自己位置認識では、ステレオカメラやDepthカメラといった3Dカメラを用いたVisual Odometryの手法がたくさんあるようだ。

以前見たコレは単眼カメラで撮影した2Dの画像を用いて自己位置を認識するMonocular Visual Odometry手法の1つ↓
https://blog.negativemind.com/2014/06/19/%E7%94%BB%E5%83%8F%E8%AA%8D%E8%AD%98%E3%81%AB%E3%82%88%E3%82%8B%E4%BD%8D%E7%BD%AE%E6%83%85%E5%A0%B1%E5%8F%96%E5%BE%97-semi-direct-monocular-visual-odometry-svo/

この技術のすごさがやっとわかってきた。
このSVO(Semi-Direct Monocular Visual Odometry)はROSで試せるようですよ↓
http://kivantium.hateblo.jp/entry/2014/07/01/000651


スポンサーリンク


単眼カメラによるVisual Odometry技術に関するチュートリアル、およびOpenCVを使って実装したサンプルが公開されているのを知った↓
https://avisingh599.github.io/vision/visual-odometry-full/
https://avisingh599.github.io/vision/monocular-vo/

Monocular Visual Odometry using OpenCV

ソースコード(C++)はこちら

mono-vo

これは、OpenCV 3.0をベースにMonocular Visual Odometry手法(単眼カメラによる自己位置認識)を実装したものです。


スポンサーリンク
アルゴリズム

基本行列の推定にNisterの5点アルゴリズムを使用し、トラッキングにはFAST特徴量とKanade-Lucas-Tomasi Feature Tracker(Lucas–Kanade法)を使用しています。
詳細はこちらのレポートこちらのブログ記事をご覧ください。

注意事項:
このプロジェクトはまだ相対スケールの推定精度が低いです。そのため、スケール情報はKITTIデータセットのground truthファイルから取得しています。

見たところ、ソースコードはそれほど大規模じゃなさそうだけど、OpenCVを使うとそんなに簡単に書けちゃうものなのだろうか。
ここで出てくるKITTIデータセットというのは自動車ビジョン向けの大規模データセットらしいです↓

自動車ビジョン向けの新しい大規模データセット「KITTI Vision Benchmark Suite」

The KITTI Vision Benchmark Suite

このVisual Odometry技術でロボットの移動量を正確に認識して、さらにその情報から地図を作成するところまで発展するとSLAMなんですかね。(良く解ってない)

2020年5月 追記:最近はPythonでVisual OdometryできるpySLAMというのがありますね↓
https://github.com/luigifreda/pyslam

2通りの再構成方法

カメラで撮影した連続画像(動画)から移動量を測るための再構成方法には大きく2通りあるらしい。

  • indirect (feature-based):画像から特徴点を抽出し、疎(sparse)な情報のマッチングで再構成する
  • direct:密(dense)な画素情報をそのまま使って再構成する

上記mono-voのコードは特徴点ベースだから、indirectな方法を実装しているということですね。

単眼カメラによるSLAMで有名なLSD-SLAMは、directな手法↓
http://vision.in.tum.de/research/vslam/lsdslam

LSD-SLAMのソースコードは公開されてはいるけど、まだ試せるほど知識がない。

追記:directな手法とindirectな手法を組み合わせたDirect Sparse Odometry(DSO)という手法があるらしい↓
https://vision.in.tum.de/research/vslam/dso

DSO: Direct Sparse Odometry

ソースコードもある↓
https://github.com/JakobEngel/dso

追記:第1回3D勉強会@関東でDSOについて解説されていました↓


スポンサーリンク

関連記事

自前Shaderの件 解決しました
機械学習手法『SVM(Support Vector Machine)』
MFnDataとMFnAttribute
オープンソースのPhotogrammetryフレームワーク『Alice Vision』
SDカードサイズのコンピューター『Intel Edison』
Russian3DScannerのトポロジー転送ツール『WrapX』
オープンソースの物理ベースレンダラ『Mitsuba』をMayaで使う
Google App Engine上のWordPressでAmazonJSを利用する
UnityのTransformクラスについて調べてみた
C++始めようと思うんだ
konashiのサンプルコードを動かしてみた
UnityでShaderの入力パラメータとして行列を渡す
オープンソースのロボットアプリケーションフレームワーク『ROS (Robot Operating S...
FacebookがDeep learningツールの一部をオープンソース化
ROSの薄い本
Kinect for Windows v2の日本価格決定
Mayaのシェーディングノードの区分
オープンソースの3Dメッシュデータライブラリ『OpenMesh』
iPhone x ロボットハッカソン~RomoのiPhone用SDKで目覚ましアプリを作る~
機械学習のオープンソースソフトウェアフォーラム『mloss(machine learning ope...
CGレンダラ研究開発のためのフレームワーク『Lightmetrica (ライトメトリカ)』
fSpy:1枚の写真からカメラパラメーターを割り出すツール
Facebookの顔認証技術『DeepFace』
WebGL開発に関する情報が充実してきている
YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法
GoogleのDeep Learning論文
Webスクレイピングの勉強会に行ってきた
3Dグラフィックスの入門書
書籍『イラストで学ぶ ディープラーニング』
ドットインストールのWordPress入門レッスン
オープンソースのStructure from Motionライブラリ『Theia』
プログラミングスキルとは何か?
なんかすごいサイト
AmazonEC2のインスタンスをt1.microからt2.microへ移行する
CGのためのディープラーニング
OpenCV バージョン4がリリースされた!
3D復元技術の情報リンク集
仮想関数
PSPNet (Pyramid Scene Parsing Network):ディープラーニングによ...
書籍『ゼロから作るDeep Learning』で自分なりに学ぶ
機械学習手法『Random Forest』
画像認識による位置情報取得 - Semi-Direct Monocular Visual Odome...

コメント

  1. […] monocular-visual-odometry-using-opencv [OpenCV][カメラ] […]

  2. […] OpenCVでカメラ画像から自己位置認識 (Visual Odometry) […]