Theia:オープンソースのStructure from Motionライブラリ

度々似たような話題ですが(笑)
また別のオープンソースStructure from Motionライブラリを見つけた↓

Theia

Theia-SfM

TheiaChris Sweeneyが開発したコンピュータービジョンライブラリで、効率的で信頼性の高いStructure from Motion(SfM)アルゴリズムを提供するために作られました。このライブラリは、研究者達へmulti-view reconstructionのための簡単に拡張可能なbox-toolの提供を目指しています。
姿勢推定、特徴検出と特長記述、マッチング、再構築のための多くの共通アルゴリズムが実装されています。シンプルなインターフェイス、少ない依存関係、そして豊富なドキュメントが用意されています。

ライセンスは修正BSDライセンス(New BSD License)なので商用利用も可能。
ソースコードはこちら↓
https://github.com/sweeneychris/TheiaSfM



このライブラリは、ACMが主催するOpen Source Software Competition 2015でファイナリストにまで残ったライブラリだそうです。
(それがどれほどすごいことなのかはよくわかりません。。。)

もともとはカリフォルニア大学サンタバーバラ校のFour Eyes Labで開発されていたものがベースで、後にオープンソース化されたものだそうだ。
現在の開発の中心となっているChris Sweeney氏のページはこちら↓
http://cs.ucsb.edu/~cmsweeney/

Theiaライブラリのビルド方法を見てみたら、以下のライブラリに依存しているらしい。

この手のライブラリではお馴染みのCeres Solverが入っている。ここの解説にもある通り、Ceres Solverは「非線形問題」を解くためのライブラリ。Structure from Motionでは、推定した変換行列の再投影誤差が最小となるパラメータを求めるBundle Adjustment処理で使われている。(最近やっと理解)

ちょっとライブラリの構成を眺めてみた。OpenMVGのサンプルでも感じたけど、Structure from Motionのライブラリって、画像のExifデータを利用する仕様が割と当たり前なのね。大抵、ライブラリにカメラの機種ごとのプロファイルデータベースもセットになっている。

関連記事

AR (Augmented Reality)とDR (Diminished Reality)

iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』

Maya API Reference

PeopleSansPeople:機械学習用の人物データをUnityで生成する

Alice Vision:オープンソースのPhotogrammetryフレームワーク

UnityのAR FoundationでARKit 3

PythonのHTML・XMLパーサー『BeautifulSoup』

cvui:OpenCVのための軽量GUIライブラリ

Unityで強化学習できる『Unity ML-Agents』

Paul Debevec

PCA (主成分分析)

Unityで学ぶC#

Unity MonoBehaviourクラスのオーバーライド関数が呼び出される順番

立体視を試してみた

Iterator

コンピュータビジョンの技術マップ

顔追跡による擬似3D表示『Dynamic Perspective』

第25回コンピュータビジョン勉強会@関東に行って来た

Photogrammetry (写真測量法)

Live CV:インタラクティブにComputer Visionコーディングができるツール

Google App Engine上のWordPressでAmazonJSを利用する

CGのためのディープラーニング

Google Chromecast

MeshLab:3Dオブジェクトの確認・変換に便利なフリーウェア

OpenFace:Deep Neural Networkによる顔の個人識別フレームワーク

OpenCVの顔検出過程を可視化した動画

HD画質の無駄遣い その2

TeleSculptor:空撮動画からPhotogrammetryするツール

AfterEffectsプラグイン開発

Autodesk Mementoでゴジラを3次元復元する

OpenMayaRender

WordPressプラグインの作り方

libigl:軽量なジオメトリ処理ライブラリ

YOLO (You Only Look Once):ディープラーニングによる一般物体検出手法

Point Cloud Consortiumのセミナー「3D点群の未来」に行ってきたよ

BlenderのPython環境にPyTorchをインストールする

Faster R-CNN:ディープラーニングによる一般物体検出手法

NumSharp:C#で使えるNumPyライクな数値計算ライブラリ

マルコフ連鎖モンテカルロ法

なんかすごいサイト

OpenMayaのPhongShaderクラス

UnrealCV:コンピュータビジョン研究のためのUnreal Engineプラグイン

コメント

  1. わたなべ より:

    いつもCV関係の紹介記事、参考にさせていただいてます。
    このTheia、作者がWindows向けに作っていないため、何回かCMakeで挑戦してみましたがceres等他の必要なライブラリ部分で詰まり中断していました。

    Visual Studio 2015(Update 3)/2017限定になりますが、C++のオープンソフトウェアパッケージ管理のvcpkgにTheiaが登録されたため、(vcpkgを導入すれば)コマンドライン1行たたくだけで使えるようになっています。vcpkg自体もGitHubからpullしてbatファイルを叩くだけなので簡単でした。

    exeもありますが、APIを利用できる感じになっているので、SfM部分を勉強したりトレンド(CVPR2017のHybridSfMも最近実装されました)をおいかけたりするには良さそうです。