Theia:オープンソースのStructure from Motionライブラリ

度々似たような話題ですが(笑)
また別のオープンソースStructure from Motionライブラリを見つけた↓

Theia

Theia-SfM

TheiaChris Sweeneyが開発したコンピュータービジョンライブラリで、効率的で信頼性の高いStructure from Motion(SfM)アルゴリズムを提供するために作られました。このライブラリは、研究者達へmulti-view reconstructionのための簡単に拡張可能なbox-toolの提供を目指しています。
姿勢推定、特徴検出と特長記述、マッチング、再構築のための多くの共通アルゴリズムが実装されています。シンプルなインターフェイス、少ない依存関係、そして豊富なドキュメントが用意されています。

ライセンスは修正BSDライセンス(New BSD License)なので商用利用も可能。
ソースコードはこちら↓
https://github.com/sweeneychris/TheiaSfM



このライブラリは、ACMが主催するOpen Source Software Competition 2015でファイナリストにまで残ったライブラリだそうです。
(それがどれほどすごいことなのかはよくわかりません。。。)

もともとはカリフォルニア大学サンタバーバラ校のFour Eyes Labで開発されていたものがベースで、後にオープンソース化されたものだそうだ。
現在の開発の中心となっているChris Sweeney氏のページはこちら↓
http://cs.ucsb.edu/~cmsweeney/

Theiaライブラリのビルド方法を見てみたら、以下のライブラリに依存しているらしい。

この手のライブラリではお馴染みのCeres Solverが入っている。ここの解説にもある通り、Ceres Solverは「非線形問題」を解くためのライブラリ。Structure from Motionでは、推定した変換行列の再投影誤差が最小となるパラメータを求めるBundle Adjustment処理で使われている。(最近やっと理解)

ちょっとライブラリの構成を眺めてみた。OpenMVGのサンプルでも感じたけど、Structure from Motionのライブラリって、画像のExifデータを利用する仕様が割と当たり前なのね。大抵、ライブラリにカメラの機種ごとのプロファイルデータベースもセットになっている。

関連記事

AfterEffectsプラグイン開発

iPhoneで3D写真が撮れるアプリ『seene』

ROSの薄い本

Google Chromecast

OpenCV 3.3.0 contribのsfmモジュールのサンプルを動かしてみる

ArUco:OpenCVベースのコンパクトなARライブラリ

OpenCVのバージョン3が正式リリースされたぞ

BGSLibrary:OpenCVベースの背景差分ライブラリ

MeshroomでPhotogrammetry

Raspberry Pi 2を買いました

SONY製のニューラルネットワークライブラリ『NNabla』

顔追跡による擬似3D表示『Dynamic Perspective』

1枚の画像からマテリアルを作成できる無料ツール『Materialize』

Rerun:マルチモーダルデータの可視化アプリとSDK

PCA (主成分分析)

クラスの基本

Structure from Motion (多視点画像からの3次元形状復元)

Blendify:コンピュータービジョン向けBlenderラッパー

Mechanizeで要認証Webサイトをスクレイピング

Unity ARKitプラグインサンプルのチュートリアルを読む

写真から3Dメッシュの生成・編集ができる無料ツール『Autodesk Memento』

AmazonEC2のインスタンスをt1.microからt2.microへ移行する

ディープラーニング

OpenCVで動画の手ぶれ補正

C#で使える遺伝的アルゴリズムライブラリ『GeneticSharp』

ポリゴンジオメトリ処理ライブラリ『pmp-library (Polygon Mesh Process...

Raspberry Pi 2のGPIOピン配置

pythonもかじってみようかと

Maya API Reference

機械学習に役立つPythonライブラリ一覧

MB-Lab:Blenderの人体モデリングアドオン

Autodesk Mementoでゴジラを3次元復元する

畳み込みニューラルネットワーク (CNN: Convolutional Neural Network...

Kornia:微分可能なコンピュータービジョンライブラリ

コンピュータビジョンの技術マップ

3D Gaussian Splatting:リアルタイム描画できるRadiance Fields

ニューラルネットワークと深層学習

OpenCVで平均顔を作るチュートリアル

OpenCVでカメラ画像から自己位置認識 (Visual Odometry)

Python.NET:Pythonと.NETを連携させるパッケージ

Mitsuba 3:オープンソースの研究向けレンダラ

SSII2014 チュートリアル講演会の資料

コメント

  1. わたなべ より:

    いつもCV関係の紹介記事、参考にさせていただいてます。
    このTheia、作者がWindows向けに作っていないため、何回かCMakeで挑戦してみましたがceres等他の必要なライブラリ部分で詰まり中断していました。

    Visual Studio 2015(Update 3)/2017限定になりますが、C++のオープンソフトウェアパッケージ管理のvcpkgにTheiaが登録されたため、(vcpkgを導入すれば)コマンドライン1行たたくだけで使えるようになっています。vcpkg自体もGitHubからpullしてbatファイルを叩くだけなので簡単でした。

    exeもありますが、APIを利用できる感じになっているので、SfM部分を勉強したりトレンド(CVPR2017のHybridSfMも最近実装されました)をおいかけたりするには良さそうです。