Theia:オープンソースのStructure from Motionライブラリ

度々似たような話題ですが(笑)
また別のオープンソースStructure from Motionライブラリを見つけた↓

Theia

Theia-SfM

TheiaChris Sweeneyが開発したコンピュータービジョンライブラリで、効率的で信頼性の高いStructure from Motion(SfM)アルゴリズムを提供するために作られました。このライブラリは、研究者達へmulti-view reconstructionのための簡単に拡張可能なbox-toolの提供を目指しています。
姿勢推定、特徴検出と特長記述、マッチング、再構築のための多くの共通アルゴリズムが実装されています。シンプルなインターフェイス、少ない依存関係、そして豊富なドキュメントが用意されています。

ライセンスは修正BSDライセンス(New BSD License)なので商用利用も可能。
ソースコードはこちら↓
https://github.com/sweeneychris/TheiaSfM



このライブラリは、ACMが主催するOpen Source Software Competition 2015でファイナリストにまで残ったライブラリだそうです。
(それがどれほどすごいことなのかはよくわかりません。。。)

もともとはカリフォルニア大学サンタバーバラ校のFour Eyes Labで開発されていたものがベースで、後にオープンソース化されたものだそうだ。
現在の開発の中心となっているChris Sweeney氏のページはこちら↓
http://cs.ucsb.edu/~cmsweeney/

Theiaライブラリのビルド方法を見てみたら、以下のライブラリに依存しているらしい。

この手のライブラリではお馴染みのCeres Solverが入っている。ここの解説にもある通り、Ceres Solverは「非線形問題」を解くためのライブラリ。Structure from Motionでは、推定した変換行列の再投影誤差が最小となるパラメータを求めるBundle Adjustment処理で使われている。(最近やっと理解)

ちょっとライブラリの構成を眺めてみた。OpenMVGのサンプルでも感じたけど、Structure from Motionのライブラリって、画像のExifデータを利用する仕様が割と当たり前なのね。大抵、ライブラリにカメラの機種ごとのプロファイルデータベースもセットになっている。

関連記事

UnityからROSを利用できる『ROS#』

ニューラルネットワークで画像分類

SSII 2014 デモンストレーションセッションのダイジェスト動画

WinSCP

pythonの機械学習ライブラリ『scikit-learn』

機械学習に役立つPythonライブラリ一覧

続・ディープラーニングの資料

uvでWindows11のPython環境を管理する

UnityのMonoBehaviourクラスをシングルトン化する

Pylearn2:ディープラーニングに対応したPythonの機械学習ライブラリ

clearcoat Shader

hloc:SuperGlueで精度を向上させたSfM・Visual Localization

ZBrushで作った3Dモデルを立体視で確認できるVRアプリを作る

まだ続くブログの不調

Cartographer:オープンソースのSLAMライブラリ

池袋パルコで3Dのバーチャルフィッティング『ウェアラブル クロージング バイ アーバンリサーチ』

JavaScriptとかWebGLとかCanvasとか

PCA (主成分分析)

UnityでARKit2.0

Unreal Engineの薄い本

Super Resolution:OpenCVの超解像処理モジュール

Amazon Web ServicesでWordPress

Faceshiftで表情をキャプチャしてBlender上でMakeHumanのメッシュを動かすデモ

Iridescence:プロトタイピング向け軽量3D可視化ライブラリ

画像認識による位置情報取得 - Semi-Direct Monocular Visual Odome...

Windows10でPyTorchをインストールしてVSCodeで使う

Kornia:微分可能なコンピュータービジョンライブラリ

参考書

Adobeの手振れ補正機能『ワープスタビライザー』の秘密

Mitsuba 2:オープンソースの物理ベースレンダラ

3Dグラフィックスの入門書

WordPressプラグインによるサイトマップの自動生成

ポリゴンジオメトリ処理ライブラリ『pmp-library (Polygon Mesh Process...

Unityで画面タッチ・ジェスチャ入力を扱う無料Asset『TouchScript』

オーバーロードとオーバーライド

IronPythonを使ってUnity上でPythonのコードを実行する

iPadをハンディ3Dスキャナにするガジェット『iSense 3D Scanner』

Seleniumを使ったFXや株の自動取引

ZScript

AfterEffectsプラグイン開発

Rerun:マルチモーダルデータの可視化アプリとSDK

オープンソースの取引プラットフォーム

コメント

  1. わたなべ より:

    いつもCV関係の紹介記事、参考にさせていただいてます。
    このTheia、作者がWindows向けに作っていないため、何回かCMakeで挑戦してみましたがceres等他の必要なライブラリ部分で詰まり中断していました。

    Visual Studio 2015(Update 3)/2017限定になりますが、C++のオープンソフトウェアパッケージ管理のvcpkgにTheiaが登録されたため、(vcpkgを導入すれば)コマンドライン1行たたくだけで使えるようになっています。vcpkg自体もGitHubからpullしてbatファイルを叩くだけなので簡単でした。

    exeもありますが、APIを利用できる感じになっているので、SfM部分を勉強したりトレンド(CVPR2017のHybridSfMも最近実装されました)をおいかけたりするには良さそうです。