Theia:オープンソースのStructure from Motionライブラリ

度々似たような話題ですが(笑)
また別のオープンソースStructure from Motionライブラリを見つけた↓

Theia

Theia-SfM

TheiaChris Sweeneyが開発したコンピュータービジョンライブラリで、効率的で信頼性の高いStructure from Motion(SfM)アルゴリズムを提供するために作られました。このライブラリは、研究者達へmulti-view reconstructionのための簡単に拡張可能なbox-toolの提供を目指しています。
姿勢推定、特徴検出と特長記述、マッチング、再構築のための多くの共通アルゴリズムが実装されています。シンプルなインターフェイス、少ない依存関係、そして豊富なドキュメントが用意されています。

ライセンスは修正BSDライセンス(New BSD License)なので商用利用も可能。
ソースコードはこちら↓
https://github.com/sweeneychris/TheiaSfM



このライブラリは、ACMが主催するOpen Source Software Competition 2015でファイナリストにまで残ったライブラリだそうです。
(それがどれほどすごいことなのかはよくわかりません。。。)

もともとはカリフォルニア大学サンタバーバラ校のFour Eyes Labで開発されていたものがベースで、後にオープンソース化されたものだそうだ。
現在の開発の中心となっているChris Sweeney氏のページはこちら↓
http://cs.ucsb.edu/~cmsweeney/

Theiaライブラリのビルド方法を見てみたら、以下のライブラリに依存しているらしい。

この手のライブラリではお馴染みのCeres Solverが入っている。ここの解説にもある通り、Ceres Solverは「非線形問題」を解くためのライブラリ。Structure from Motionでは、推定した変換行列の再投影誤差が最小となるパラメータを求めるBundle Adjustment処理で使われている。(最近やっと理解)

ちょっとライブラリの構成を眺めてみた。OpenMVGのサンプルでも感じたけど、Structure from Motionのライブラリって、画像のExifデータを利用する仕様が割と当たり前なのね。大抵、ライブラリにカメラの機種ごとのプロファイルデータベースもセットになっている。

関連記事

UnityでPoint Cloudを表示する方法

GeoGebra:無料で使える数学アプリ

Fast R-CNN:ディープラーニングによる一般物体検出手法

PCA (主成分分析)

ZBrushのZScript入門

OpenCV 3.1から追加されたSfMモジュール

Runway ML:クリエイターのための機械学習ツール

Cartographer:オープンソースのSLAMライブラリ

網元AMIで作ったWordpressサイトのインスタンスをt1microからt2microへ移行した

機械学習について最近知った情報

顔画像処理技術の過去の研究

機械学習に役立つPythonライブラリ一覧

フィーリングに基づくタマムシの質感表現

VCG Library:C++のポリゴン操作ライブラリ

viser:Pythonで使える3D可視化ライブラリ

OpenMVSのサンプルを動かしてみる

3Dスキャンしたテクスチャから照明を除去するUnityツール『De Lighting tool』

参考書

Photogrammetry (写真測量法)

openMVGをWindows10 Visual Studio 2015環境でビルドする

ブログが1日ダウンしてました

ニューラルネットワークと深層学習

組み込み向けのWindows OS 『Windows Embedded』

PeopleSansPeople:機械学習用の人物データをUnityで生成する

UnityでShaderの入力パラメータとして行列を渡す

OpenCVで平均顔を作るチュートリアル

Point Cloud Libraryに動画フォーマットが追加されるらしい

FacebookがDeep learningツールの一部をオープンソース化

OpenMVS:Multi-View Stereoによる3次元復元ライブラリ

OpenCVの超解像(SuperResolution)モジュールを試す

adskShaderSDK

CGAN (Conditional GAN):条件付き敵対的生成ネットワーク

Twitter APIのPythonラッパー『python-twitter』

uvでWindows11のPython環境を管理する

Point Cloud Utils:Pythonで3D点群・Meshを扱うライブラリ

bpy-renderer:レンダリング用Pythonパッケージ

MFnMeshクラスのsplit関数

TeleSculptor:空撮動画からPhotogrammetryするツール

BGSLibrary:OpenCVベースの背景差分ライブラリ

Open3D:3Dデータ処理ライブラリ

Manim:Pythonで使える数学アニメーションライブラリ

Googleが画像解析旅行ガイドアプリのJetpac社を買収

コメント

  1. わたなべ より:

    いつもCV関係の紹介記事、参考にさせていただいてます。
    このTheia、作者がWindows向けに作っていないため、何回かCMakeで挑戦してみましたがceres等他の必要なライブラリ部分で詰まり中断していました。

    Visual Studio 2015(Update 3)/2017限定になりますが、C++のオープンソフトウェアパッケージ管理のvcpkgにTheiaが登録されたため、(vcpkgを導入すれば)コマンドライン1行たたくだけで使えるようになっています。vcpkg自体もGitHubからpullしてbatファイルを叩くだけなので簡単でした。

    exeもありますが、APIを利用できる感じになっているので、SfM部分を勉強したりトレンド(CVPR2017のHybridSfMも最近実装されました)をおいかけたりするには良さそうです。