Theia:オープンソースのStructure from Motionライブラリ

度々似たような話題ですが(笑)
また別のオープンソースStructure from Motionライブラリを見つけた↓

Theia

Theia-SfM

TheiaChris Sweeneyが開発したコンピュータービジョンライブラリで、効率的で信頼性の高いStructure from Motion(SfM)アルゴリズムを提供するために作られました。このライブラリは、研究者達へmulti-view reconstructionのための簡単に拡張可能なbox-toolの提供を目指しています。
姿勢推定、特徴検出と特長記述、マッチング、再構築のための多くの共通アルゴリズムが実装されています。シンプルなインターフェイス、少ない依存関係、そして豊富なドキュメントが用意されています。

ライセンスは修正BSDライセンス(New BSD License)なので商用利用も可能。
ソースコードはこちら↓
https://github.com/sweeneychris/TheiaSfM



このライブラリは、ACMが主催するOpen Source Software Competition 2015でファイナリストにまで残ったライブラリだそうです。
(それがどれほどすごいことなのかはよくわかりません。。。)

もともとはカリフォルニア大学サンタバーバラ校のFour Eyes Labで開発されていたものがベースで、後にオープンソース化されたものだそうだ。
現在の開発の中心となっているChris Sweeney氏のページはこちら↓
http://cs.ucsb.edu/~cmsweeney/

Theiaライブラリのビルド方法を見てみたら、以下のライブラリに依存しているらしい。

この手のライブラリではお馴染みのCeres Solverが入っている。ここの解説にもある通り、Ceres Solverは「非線形問題」を解くためのライブラリ。Structure from Motionでは、推定した変換行列の再投影誤差が最小となるパラメータを求めるBundle Adjustment処理で使われている。(最近やっと理解)

ちょっとライブラリの構成を眺めてみた。OpenMVGのサンプルでも感じたけど、Structure from Motionのライブラリって、画像のExifデータを利用する仕様が割と当たり前なのね。大抵、ライブラリにカメラの機種ごとのプロファイルデータベースもセットになっている。

関連記事

スクラッチで既存のキャラクターを立体化したい

Kubric:機械学習用アノテーション付き動画生成パイプライン

Alice Vision:オープンソースのPhotogrammetryフレームワーク

UnityでShaderの入力パラメータとして行列を渡す

スクレイピング

MRenderUtil::raytrace

Active Appearance Models(AAM)

Raspberry Pi 2を買いました

Rerun:マルチモーダルデータの可視化アプリとSDK

顔検出・認識のAPI・ライブラリ・ソフトウェアのリスト

Google App EngineでWordPress

OpenAR:OpenCVベースのマーカーARライブラリ

ManimML:機械学習の概念を視覚的に説明するためのライブラリ

ブログが1日ダウンしてました

PythonのHTML・XMLパーサー『BeautifulSoup』

OpenCVのfindEssentialMat関数を使ったサンプルを読んでみる

Geogram:C++の3D幾何アルゴリズムライブラリ

Unityで画面タッチ・ジェスチャ入力を扱う無料Asset『TouchScript』

OpenCVの顔検出過程を可視化した動画

Windows10でPyTorchをインストールしてVSCodeで使う

openMVGをWindows10 Visual Studio 2015環境でビルドする

書籍『OpenCV 3 プログラミングブック』を購入

組み込み向けのWindows OS 『Windows Embedded』

HD画質の無駄遣い

AndroidもopenGLも初心者さ (でもJavaは知ってるよ)

Pythonの自然言語処理ライブラリ『NLTK(Natural Language Toolkit)』

法線マップを用意してCanvas上でShadingするサンプル

Math Inspector:科学計算向けビジュアルプログラミングツール

html5のcanvasの可能性

Runway ML:クリエイターのための機械学習ツール

C++の抽象クラス

adskShaderSDK

CNN Explainer:畳み込みニューラルネットワーク可視化ツール

今年もSSII

科学技術計算向けスクリプト言語『Julia』

AnacondaとTensorFlowをインストールしてVisual Studio 2015で使う

Google Chromecast

ZScript

UnityのAR FoundationでARKit 3

Multi-View Environment:複数画像から3次元形状を再構築するライブラリ

Unityの薄い本

clearcoat Shader

コメント

  1. わたなべ より:

    いつもCV関係の紹介記事、参考にさせていただいてます。
    このTheia、作者がWindows向けに作っていないため、何回かCMakeで挑戦してみましたがceres等他の必要なライブラリ部分で詰まり中断していました。

    Visual Studio 2015(Update 3)/2017限定になりますが、C++のオープンソフトウェアパッケージ管理のvcpkgにTheiaが登録されたため、(vcpkgを導入すれば)コマンドライン1行たたくだけで使えるようになっています。vcpkg自体もGitHubからpullしてbatファイルを叩くだけなので簡単でした。

    exeもありますが、APIを利用できる感じになっているので、SfM部分を勉強したりトレンド(CVPR2017のHybridSfMも最近実装されました)をおいかけたりするには良さそうです。