サイトアイコン NegativeMindException

OpenCVでカメラ画像から自己位置認識 (Visual Odometry)

書籍ROSではじめる ロボットプログラミング」を一通り読み終わって、何となくロボットの自己位置認識の重要性を感じている。



ロボット自身の移動量を計測する手法全般を”Odometry“と言うらしい。
中でも1番簡単なやり方は、車輪などの駆動装置の回転数を加算して移動距離とみなす方法。これはWheel Odometryとか呼ばれるらしい。この手法は手軽だがもちろん欠点もあって、車輪が滑るなどして空転した分も移動量として加算されてしまう。そのため、Wheel Odometryではロボットが遠くへ移動するほど、どんどん誤差が溜まってしまう。

これに対して、カメラ画像を使って自己位置認識を行うのがVisual Odometry(VO)という分野。ロボットの自己位置認識では、ステレオカメラやDepthカメラといった3Dカメラを用いたVisual Odometryの手法がたくさんあるようだ。

以前見たコレは単眼カメラで撮影した2Dの画像を用いて自己位置を認識するMonocular Visual Odometry手法の1つ↓
画像認識による位置情報取得 - Semi-Direct Monocular Visual Odometry (SVO)
今日たまたまTwitterのTLで見かけたやつ。 単眼のカメラ映像からリアルタイムに位置情報を取得している。 論文はこちら そして、GitHubにROSで動作するソースコードが公開されている。


この技術のすごさがやっと分かってきた。
このSVO(Semi-Direct Monocular Visual Odometry)はROSで試せるようですよ↓
http://kivantium.hateblo.jp/entry/2014/07/01/000651



単眼カメラによるVisual Odometry技術に関するチュートリアル、およびOpenCVを使って実装したサンプルが公開されているのを知った↓
https://avisingh599.github.io/vision/visual-odometry-full/
https://avisingh599.github.io/vision/monocular-vo/


ソースコード(C++)はこちら

mono-vo

これは、OpenCV 3.0をベースにMonocular Visual Odometry手法(単眼カメラによる自己位置認識)を実装したものです。

アルゴリズム

基本行列の推定にNisterの5点アルゴリズムを使用し、トラッキングにはFAST特徴量とKanade-Lucas-Tomasi Feature Tracker(Lucas–Kanade法)を使用しています。
詳細はこちらのレポートこちらのブログ記事をご覧ください。

注意事項:
このプロジェクトはまだ相対スケールの推定精度が低いです。そのため、スケール情報はKITTIデータセットのground truthファイルから取得しています。


スポンサーリンク

見たところ、ソースコードはそれほど大規模じゃなさそうだけど、OpenCVを使うとそんなに簡単に書けちゃうものなのだろうか。

追記:中身を読んでみた↓



ここで出てくるKITTIデータセットというのは自動車ビジョン向けの大規模データセットらしいです↓

自動車ビジョン向けの新しい大規模データセット「KITTI Vision Benchmark Suite」



このVisual Odometry技術でロボットの移動量を正確に認識して、さらにその情報から地図を作成するところまで発展するとSLAMなんですかね。(良く解ってない)

2020年5月 追記:最近はPythonでVisual OdometryできるpySLAMというのがありますね↓
https://github.com/luigifreda/pyslam

2通りの再構成方法

カメラで撮影した連続画像(動画)から移動量を測るための再構成方法には大きく2通りあるらしい。

上記mono-voのコードは特徴点ベースだから、indirectな方法を実装しているということですね。

単眼カメラによるSLAMで有名なLSD-SLAMは、directな手法↓
http://vision.in.tum.de/research/vslam/lsdslam

LSD-SLAMのソースコードは公開されてはいるけど、まだ試せるほど知識がない。

追記:directな手法とindirectな手法を組み合わせたDirect Sparse Odometry(DSO)という手法があるらしい↓
https://vision.in.tum.de/research/vslam/dso



ソースコードもある↓
https://github.com/JakobEngel/dso

追記:第1回3D勉強会@関東でDSOについて解説されていました↓


スポンサーリンク

関連記事

  • OpenCVの三角測量関数『cv::triangulatepoints』
  • UnityのMonoBehaviourクラスをシングルトン化する
  • Faceshiftで表情をキャプチャしてBlender上でMakeHumanのメッシュを動かすデモ
  • Manim:Pythonで使える数学アニメーションライブラリ
  • clearcoat Shader
  • オープンソースの顔の動作解析ツールキット『OpenFace』
  • Webサイトのワイヤーフレームが作成できるオンラインツール
  • Digital Emily Project:人間の顔をそっくりそのままCGで復元する
  • Mitsuba 3:オープンソースの研究向けレンダラ
  • 1枚の画像からマテリアルを作成できる無料ツール『Materialize』
  • 立体視を試してみた
  • iPhoneで3D写真が撮れるアプリ『seene』
  • Unity Scriptコーディング→Unreal Engine Scriptコーディング
  • プログラミングスキルとは何か?
  • Autodesk Mementoでゴジラを3次元復元する
  • Python for Unity:UnityEditorでPythonを使えるパッケージ
  • Gource:バージョン管理の履歴を可視化するツール
  • OpenGVの用語
  • OpenCVのfindEssentialMat関数を使ったサンプルを読んでみる
  • AmazonEC2のインスタンスをt1.microからt2.microへ移行する
  • Verilog HDL
  • 3Dスキャンに基づくプロシージャルフェイシャルアニメーション
  • konashiのサンプルコードを動かしてみた
  • CGAN (Conditional GAN):条件付き敵対的生成ネットワーク
  • Qlone:スマホのカメラで3Dスキャンできるアプリ
  • Kinect for Windows V2のプレオーダー開始
  • オープンソースのIT資産・ライセンス管理システム『Snipe-IT』
  • AndroidもopenGLも初心者さ (でもJavaは知ってるよ)
  • Managing Software Requirements: A Unified Approach
  • pythonもかじってみようかと
  • ROMOハッカソンに行ってきた
  • 画像生成AI Stable Diffusionで遊ぶ
  • WordPressの表示を高速化する
  • GAN (Generative Adversarial Networks):敵対的生成ネットワーク
  • Point Cloud Utils:Pythonで3D点群・Meshを扱うライブラリ
  • この連休でZBrushの スキルアップを…
  • チャットツール用bot開発フレームワーク『Hubot』
  • ブログをGoogle App EngineからAmazon EC2へ移行
  • Pythonのソースコードに特化した検索エンジン『Nullege』
  • Math.NET Numerics:Unityで使える数値計算ライブラリ
  • OpenCV 3.3.0-RCでsfmモジュールをビルド
  • BlenderのGeometry Nodeで遊ぶ
  • モバイルバージョンを終了