Multi-View Stereoによる3次元復元ライブラリ『OpenMVS』

複数枚の2D画像から、カメラの3D姿勢情報と被写体の疎(sparse)な3D点群を推定するのがStructure from Motionという手法。そこで求めたカメラの姿勢、点群の情報を使ってさらに密(dense)な点群を求めるのがMulti-View Stereoという手法。
Structure from Motionのライブラリは結構色々あるみたいなんだけど、そこから密な点群を求めるMulti-View Stereoのライブラリはあんまり見かけないんだよね。(PMVSというツールは有名ですが)

このOpenMVS(Multi-View Stereo)は、名前の通り、密な点群を復元するMulti-View Stereoのアルゴリズムを実装したライブラリ。OpemMVS自体はAGPLライセンスだけど、依存しているサードパーティのライブラリが細々と沢山あり、それぞれのライセンスに従うのでこちらを参照。

OpenMVS

OpenMVS(Multi-View Stereo)は、コンピュータビジョン科学者、特にMulti-View Stereo reconstructionの分野を対象としたライブラリです。
Structure-from-Motionのパイプラインを実装した(OpenMVGなどの)オープンソースプロジェクトを使えば、入力画像セットからカメラの姿勢や疎な3次元点群を復元できますが、それだけではphotogrammetry chain-flowの最後のプロセスが欠けています。OpenMVSは、この最後のプロセス、再構築するシーンの完全なサーフェイスを復元するためのアルゴリズムを提供します。
OpenMVSへの入力はカメラの姿勢セットと疎な点群、OpenMVSからの出力はテクスチャ付きのMeshになります。
このプロジェクトの主な特長は以下の通りです。

  • 密な点群の復元:可能な限り完全・正確な点群を得るための復元
  • Meshの再構築:入力点群から高品質なMesh表面を推定するためのMesh再構築
  • Meshの分割:全てのディティールを復元するためのMesh分割
  • Meshのテクスチャリング:Meshを着色するためのシャープで正確なテクスチャ計算

詳細なドキュメントはWikiをご覧ください。


スポンサーリンク

このライブラリ、OpenMVGのドキュメントで紹介されていたのだ。


スポンサーリンク


OpenMVGのドキュメントによると、OpenMVGとOpenMVSの連携は比較的簡単にできるみたい。
ソースコードはGitHubにある。↓
https://github.com/cdcseacave/openMVS

ドキュメントはGitHub上のWikiに。↓
https://github.com/cdcseacave/openMVS/wiki

OpenMVGの出力結果をOpenMVSの入力に使う例も載ってる。↓

使い方

secene dense

追記:ドキュメントに従ってサンプルを動かしてみた↓


関連資料

Multi-View Stereoについては、毎度おなじみコンピュータビジョン最先端ガイド5と、コンピュータビジョン勉強会@関東の第28回の資料が参考になる。

コンピュータビジョン最先端ガイド5 (CVIMチュートリアルシリーズ)





スポンサーリンク

関連記事

第25回コンピュータビジョン勉強会@関東に行って来た
組み込み向けのWindows OS 『Windows Embedded』
YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法
機械学習のオープンソースソフトウェアフォーラム『mloss(machine learning ope...
OpenCVで顔のランドマークを検出する『Facemark API』
書籍『イラストで学ぶ ディープラーニング』
畳み込みニューラルネットワーク (CNN:Convolutional Neural Network)
PGGAN:段階的に解像度を上げて学習を進めるGAN
Javaで作られたオープンソースの3DCGレンダラ『Sunflow』
OpenCVでカメラ画像から自己位置認識 (Visual Odometry)
Unity MonoBehaviourクラスのオーバーライド関数が呼び出される順番
OpenCVのバージョン3が正式リリースされたぞ
3Dスキャンしたテクスチャから照明を除去するUnityツール『De Lighting tool』
写真に3Dオブジェクトを違和感無く合成する『3DPhotoMagic』
PyDataTokyo主催のDeep Learning勉強会
OpenCVのfindEssentialMat関数を使ったサンプルを読んでみる
OANDAのfxTrade API
PythonでBlenderのAdd-on開発
タマムシっぽい質感
Point Cloud Libraryに動画フォーマットが追加されるらしい
ポイントクラウドコンソーシアム
Unity ARKitプラグインサンプルのドキュメントを読む
OpenCV 3.1から追加されたSfMモジュール
Unity Scriptコーディング→Unreal Engine Scriptコーディング
軽量なジオメトリ処理ライブラリ『libigl』
WordPressのテーマを自作する
コンピュータビジョンの技術マップ
3Dオブジェクトの確認・変換に便利なフリーウェア『MeshLab』
UnityのMonoBehaviourクラスをシングルトン化する
3Dグラフィックスの入門書
オープンソースのPhotogrammetryフレームワーク『Alice Vision』
pythonの機械学習ライブラリ『scikit-learn』
WebGL開発に関する情報が充実してきている
BlenderでPhotogrammetryできるアドオン
Open3D:3Dデータ処理ライブラリ
BlenderProc:Blenderで機械学習用の画像データを生成するPythonツール
Web経由でRaspberry PiのGPIOを操作したい
機械学習で遊ぶ
機械学習手法『SVM(Support Vector Machine)』
Deep Learningとその他の機械学習手法の性能比較
Deep Neural Networkによる顔の個人識別フレームワーク『OpenFace』
OpenCVベースの背景差分ライブラリ『BGSLibrary』

コメント

  1. […] がとうございます。 NegativeMindさんありがとうございます。 NegativeMindException | Multi-View Stereoによる3次元復元ライブラリ『OpenMVS』 NegativeMindException | 複数視点画像から3次元形状を復元するラ […]