Theia:オープンソースのStructure from Motionライブラリ

度々似たような話題ですが(笑)
また別のオープンソースStructure from Motionライブラリを見つけた↓

Theia

Theia-SfM

TheiaChris Sweeneyが開発したコンピュータービジョンライブラリで、効率的で信頼性の高いStructure from Motion(SfM)アルゴリズムを提供するために作られました。このライブラリは、研究者達へmulti-view reconstructionのための簡単に拡張可能なbox-toolの提供を目指しています。
姿勢推定、特徴検出と特長記述、マッチング、再構築のための多くの共通アルゴリズムが実装されています。シンプルなインターフェイス、少ない依存関係、そして豊富なドキュメントが用意されています。

ライセンスは修正BSDライセンス(New BSD License)なので商用利用も可能。
ソースコードはこちら↓
https://github.com/sweeneychris/TheiaSfM



このライブラリは、ACMが主催するOpen Source Software Competition 2015でファイナリストにまで残ったライブラリだそうです。
(それがどれほどすごいことなのかはよくわかりません。。。)

もともとはカリフォルニア大学サンタバーバラ校のFour Eyes Labで開発されていたものがベースで、後にオープンソース化されたものだそうだ。
現在の開発の中心となっているChris Sweeney氏のページはこちら↓
http://cs.ucsb.edu/~cmsweeney/

Theiaライブラリのビルド方法を見てみたら、以下のライブラリに依存しているらしい。

この手のライブラリではお馴染みのCeres Solverが入っている。ここの解説にもある通り、Ceres Solverは「非線形問題」を解くためのライブラリ。Structure from Motionでは、推定した変換行列の再投影誤差が最小となるパラメータを求めるBundle Adjustment処理で使われている。(最近やっと理解)

ちょっとライブラリの構成を眺めてみた。OpenMVGのサンプルでも感じたけど、Structure from Motionのライブラリって、画像のExifデータを利用する仕様が割と当たり前なのね。大抵、ライブラリにカメラの機種ごとのプロファイルデータベースもセットになっている。

関連記事

Human Generator:Blenderの人体生成アド...

PythonでMayaのShapeノードプラグインを作る

OpenCV バージョン4がリリースされた!

2D→3D復元技術で使われる用語まとめ

PyTorch3D:3Dコンピュータービジョンライブラリ

Mean Stack開発の最初の一歩

C++ 標準テンプレートライブラリ (STL)

DUSt3R:3Dコンピュータービジョンの基盤モデル

Kaolin:3Dディープラーニング用のPyTorchライブ...

MeshroomでPhotogrammetry

海外ドラマのChromaKey

Unity ARKitプラグインサンプルのチュートリアルを読...

Faster R-CNN:ディープラーニングによる一般物体検...

Unity Scriptコーディング→Unreal Engi...

Maya API Reference

BlenderのPython環境にPyTorchをインストー...

Gource:バージョン管理の履歴を可視化するツール

fSpy:1枚の写真からカメラパラメーターを割り出すツール

Regard3D:オープンソースのStructure fro...

CGALDotNet:計算幾何学ライブラリ CGALのC#ラ...

オープンソースの取引プラットフォーム

Iterator

ニューラルネットワークと深層学習

Digital Emily Project:人間の顔をそっく...

JavaScriptとかWebGLとかCanvasとか

Deep Fluids:流体シミュレーションをディープラーニ...

CycleGAN:ドメイン関係を学習した画像変換

参考書

Mayaのプラグイン開発

Google App Engine上のWordPressでF...

clearcoat Shader

OpenCVのバージョン3が正式リリースされたぞ

OpenCV 3.1のsfmモジュールのビルド再び

Autodesk Mementoでゴジラを3次元復元する

PCA (主成分分析)

Unityで画面タッチ・ジェスチャ入力を扱う無料Asset『...

UnityのGameObjectの向きをScriptで制御す...

スクラッチで既存のキャラクターを立体化したい

Mitsuba 3:オープンソースの研究向けレンダラ

OpenCV 3.3.0 contribのsfmモジュールの...

NeuralNetwork.NET:.NETで使えるTens...

Webサイトのワイヤーフレームが作成できるオンラインツール

コメント

  1. わたなべ より:

    いつもCV関係の紹介記事、参考にさせていただいてます。
    このTheia、作者がWindows向けに作っていないため、何回かCMakeで挑戦してみましたがceres等他の必要なライブラリ部分で詰まり中断していました。

    Visual Studio 2015(Update 3)/2017限定になりますが、C++のオープンソフトウェアパッケージ管理のvcpkgにTheiaが登録されたため、(vcpkgを導入すれば)コマンドライン1行たたくだけで使えるようになっています。vcpkg自体もGitHubからpullしてbatファイルを叩くだけなので簡単でした。

    exeもありますが、APIを利用できる感じになっているので、SfM部分を勉強したりトレンド(CVPR2017のHybridSfMも最近実装されました)をおいかけたりするには良さそうです。